ChatGPT стремительно захватывает весь мир. Уже сейчас у нейросети более 100 миллионов пользователей — ни у какого другого приложения не было таких темпов роста. Без сомнения, с его появлением мы будем работать по-другому. 

Другие компании тоже почти не отстают от OpenAI — каждый день мы видим революционные достижения генеративного ИИ. За этими инновациями стоят не только NVIDIA, Midjourney и другие ИТ-гиганты, но и стартапы, и Open-Source-сообщество. В ближайшие годы рынок труда ждут кардинальные перемены. ИИ заменит самые разные работы, но, думаю, он же предложит нам новые очень интересные профессии. 

Команда VK Cloud перевела статью, в которой дата-сайентист рассказывает о новых специальностях, появление которых в грядущие годы связано с развитием искусственного интеллекта.

Профессия №1. Аналитик и инженер по технике безопасности ИИ

Неприятно, но ИИ уже стал инструментом для угроз и мошенничества. С помощью клонирования голоса преступники представляются чьими-нибудь родственниками, выманивают и крадут деньги. Глобальные угрозы национальной безопасности — ещё более серьёзная проблема.

Думаю, и государство, и частные компании будут активно инвестировать в защиту от угроз ИИ. Например, в прошлом году правительство США на 26% увеличило бюджет по несекретным статьям расходов на ИИ, что вполне соответствует этой тенденции. Полагаю, засекреченный бюджет они увеличили ещё больше.

Новые специалисты — аналитики и инженеры по технике безопасности ИИ — будут анализировать и предотвращать угрозы, исходящие от искусственного интеллекта в адрес компаний и частных лиц.

Навыки и компетенции

1. Представление о средствах и приложениях ИИ — например, о клонировании голоса, дипфейках, обработке текстов и речи, компьютерном зрении и т. п.
2. Способность идентифицировать и анализировать потенциальные угрозы и уязвимости ИИ, такие как перехват конфиденциальной информации, фишинг, взлом с помощью вредоносных программ, несанкционированный доступ к данным и т. п.
3. Умение проектировать и внедрять стратегии и решения защиты от угроз ИИ, такие как шифрование, аутентификация, верификация, мониторинг и т. п.
4. Представление о стандартах и современных мерах безопасности — например, ISO 27001, NIST и т. п.
5. Опыт работы с инструментами и фреймворками безопасности — например, TensorFlow Privacy, PySyft, PyTorch Crypten и т. п.

Профессия №2. Дата-инженер и куратор данных в области ИИ

В интервью Лексу Фритману Сэмюэл Олтмен подчёркивает, что GPT-4 стал лучше именно благодаря данным. Поиск новых источников информации для обучения моделей станет важным моментом в развитии новых технологий.

Поиск данных — это одно. Но кто-то должен структурировать их, чтобы с их помощью можно было обучать большие модели. Для этого и понадобятся инженеры и кураторы данных в области ИИ. Именно они будут искать информацию и делать её пригодной для моделей ИИ.

Нужно помнить, что данные, которые собирают и хранят для массивных языковых моделей, часто довольно сильно отличаются от данных для традиционного применения в интересах бизнеса. Это объясняется диспропорцией таких факторов, как разнообразие, объём и качество данных. Чтобы быть на шаг впереди остальных, можно освоить разные навыки и инструменты для работы с типами данных, подходящими для больших моделей.

Думаю, такая должность появится не только в крупных компаниях, занимающихся обучением больших моделей ИИ вроде GPT. Поскольку ИИ становится демократичнее, все компании захотят обучать большие языковые Open-Source-модели для собственных задач, например для обслуживания клиентов и подготовки документации. Не предполагаю, что спрос на таких специалистов начнёт падать в обозримом будущем.

Навыки и компетенции

1. Представление о форматах и источниках данных, таких как текст, аудио, видео, изображения и т. п.
2. Умение собирать, очищать, маркировать и классифицировать данные для моделей ИИ — например, работать с пайплайнами данных, инструментами аннотирования, проверки качества данных и т. п.
3. Умение организовать хранение и работу с крупномасштабными наборами данных, в том числе с использованием облачных платформ, баз данных, хранилищ и озёр данных и т. п.
4. Способность понимать и применять принципы этики и конфиденциальности данных, такие как Общий регламент ЕС по защите персональных данных (GDPR), законы о защите конфиденциальности потребителей, деперсонализация данных, Data Governance и т. п.
5. Знакомство со средствами и фреймворками ИИ, включая обработку текстов и речи, компьютерное зрение, TensorFlow, PyTorch и т. п.

Профессия №3. Специалист по комплаенсу использования данных ИИ

Конечно, всё вертится вокруг данных, но как-то не до конца понятно, кому, собственно, они принадлежат. В разных странах действуют разные законы о защите персональных данных, разные представления о том, какие данные разрешается использовать для обучения больших моделей. По-видимому, компаниям понадобятся юристы, чувствующие себя в серой зоне законодательства по обращению с данными как рыбы в воде, потому что именно в этой зоне все сейчас и работают.

На OpenAI, Microsoft и GitHub уже подали в суд за то, что они брали чужой программный код, распространяющийся по лицензии. Размышляют и о том, что многие модели обучаются на пиратских книгах и другом контенте.

А ещё модели часто обучают на тексте или изображениях, которые предоставляют пользователи. Вот ещё дополнительная область, где всё как-то мутно.

Всё это актуальная повестка, и вскоре компаниям понадобятся люди с юридическим образованием и опытом работы с данными на должность специалиста по комплаенсу использования данных ИИ. Именно такие люди помогут разобраться в этих трудностях и снизить риски судебных разбирательств.

Навыки и компетенции

1. Представление о законах и нормах о защите персональных данных, таких как GDPR, законах о защите конфиденциальности потребителей и т. п.
2. Умение оценить воздействие на защиту данных (DPIA), выявлять потенциальные риски и меры по уменьшению рисков в связи с использованием персональных данных в системах ИИ.
3. Умение применять и анализировать законодательные нормы и требования к комплаенсу в области ИИ, сопоставлять их с целями компаний и мерами защиты бизнеса.
4. Умение проводить мониторинг и аудит производительности и эффективности систем ИИ, следить за их соответствием принципам и стандартам этики.
5. Умение взаимодействовать и сотрудничать со стейкхолдерами, включая дата-сайентистов, инженеров, специалистов по надзору, клиентов и т. п.

Профессия №4. Специалист по правовому регулированию ИИ

Конечно, компании стремятся соблюдать закон и избегать юридических проблем; другим же придётся всерьёз напрячься, чтобы понять, как вписать в законодательство невиданные ранее системы ИИ.

Каждый год принимают всё больше законов об искусственном интеллекте. Думаю, по мере развития ChatGPT нас ожидает взрывной рост такого законодательства. Скорее всего, оно зародится в аналитических центрах, университетах и профильных группах. Но в конечном счёте у нас появятся грамотные специалисты, которые будут осуществлять правовое регулирование и мониторинг в области использования ИИ совместно с местными и национальными органами власти.

Я бы назвал таких людей специалистами по правовому регулированию ИИ. Именно они помогут создать законодательство, регулирующее ИИ, и обеспечить соблюдение стандартных практик, действующих в той или иной юрисдикции.

Навыки и компетенции

1. Представление о технологиях и приложениях искусственного интеллекта, их экономических и социальных последствиях.
2. Умение использовать инструменты и методы ИИ, чтобы генерировать ценную аналитическую информацию и прогнозы для формирования политики и проведения оценок.
3. Умение взаимодействовать и сотрудничать с разными стейкхолдерами, включая исследователей, представителей отрасли, гражданского общества и органов власти.
4. Умение находить компромисс между рисками и возможностями правового регулирования ИИ, согласовывать его применение с принципами этики и правами человека.
5. Умение осуществлять мониторинг и обеспечивать комплаенс системами и пользователями ИИ соответствующих законов и стандартов.

Профессия №5. Директор по этике ИИ и специалист по количественной оценке этики ИИ

Специалисты по комплаенсу использования данных ИИ будут защищать компании от судебных исков уже после реализованного проектного решения. Но должен же быть кто-то, кто определяет, что такое проектное решение в принципе нужно. По идее, все выпускаемые модели ИИ должны взаимодействовать с людьми. Хочется надеяться, что это взаимодействие положительно повлияет на их жизнь. Думаю, в составе высшего руководства появится должность директора по этике. По-видимому, уже очень скоро компании будут назначать таких директоров или кого-то вроде.

Основная цель такого руководителя — по максимуму уменьшить необъективность и в созданных, и в проектируемых моделях. Кроме того, директор по этике должен следить за тем, чтобы модели выдавали результаты, позитивные и справедливые для участников процесса.

Думаю, это должен быть топ-менеджер, потому что деятельность в области этики подразумевает введение множества ограничений для сотрудников. Если такой человек не занимает руководящую должность, если он не пользуется в компании заслуженным уважением, его можно без проблем уволить и заменить тем, кто закроет глаза на все нарушения. И, строго говоря, такое развитие событий совершенно не исключено.

Навыки и компетенции

1. Технические знания в области технологий ИИ и представление о том, как они могут повлиять на общество и отдельных людей.
2. Представление о действующих и появляющихся законах и стандартах в области этики ИИ.
3. Представление о конкретной области и контексте применения ИИ с учётом специфики бизнеса и отрасли.
4. Навыки коммуникации и умение работать с разными организациями и стейкхолдерами.
5. Способность представлять и прогнозировать потенциальные последствия и возможности внедрения инноваций в области ИИ.

Главным соратником директора по этике станет специалист по количественной оценке этики ИИ. Его задача — анализировать уровень предвзятости моделей и измерять воздействие на группы, интересы которых затрагивает та или иная модель.

Думаю, появление такой должности кардинально изменит подход к этике в компаниях. И чтобы эти перемены произошли, людям, создающим модели, нужны данные. Количественный подход к этике расширит круг тех, кто готов прислушаться к вопросам морали.

Навыки и компетенции

1. Технические знания в области технологий, систем, алгоритмов и инструментов ИИ.
2. Понимание теорий и принципов, определяющих разработку и использование ИИ с точки зрения этики.
3. Навыки аналитического и критического мышления для оценки и проработки решений по сложным этическим вопросам.
4. Навыки коммуникации и умение объяснять и обосновывать этические решения при взаимодействии с разными аудиториями.
5. Навыки статистической и математической количественной оценки уровня необъективности и справедливости в моделях ИИ и результатах их работы.

Профессия №6. Инженер запросов

Я работаю дата-сайентистом и использую ChatGPT каждый день. Правда, я уже практически не пишу код сам. Большую часть времени я составляю и корректирую запросы по улучшению кода, который пишет ChatGPT.

В моём понимании будущее умственного труда — это работа с запросами, умение создавать нужные исходные данные, на основании которых ИИ генерирует желательный результат. Например, можно направить ChatGPT запрос «поработать учителем по Data Science» и позадавать ему вопросы. А можно назначить его на роль известного искусствоведа, который берёт мои картины и дорабатывает их с помощью моделей вроде Midjourney, создающих изображения на основе текста.

Создавать скрипты, с помощью которых модели делают именно то, что вам нужно, — это целое искусство. Думаю, в тех или иных отраслях появится рынок труда для инженеров запросов. Я уже видел вакансии — за такую работу предлагают больше 300 000 долларов.

Навыки и компетенции

1. Критическое мышление и навыки решения проблем для создания эффективных запросов, доносящих намерение человека до моделей ИИ.
2. Навыки работы с количественными данными и аналитические навыки, способность понимать и использовать математические формулы и данные.
3. Навыки устной и письменной коммуникации для создания чётких, ясных запросов на естественном языке.
4. Внимательность к деталям и точность, позволяющие избегать двусмысленности и ошибок в запросах.
5. Гибкость и готовность осваивать разные системы и области ИИ.
6. Навыки совместной и командной работы для взаимодействия с другими инженерами запросов и стейкхолдерами.
7. Навыки программирования для использования разных инструментов и фреймворков при составлении запросов.
8. Навыки проведения A/Б-тестирования и экспериментов для оценки и оптимизации эффективности запросов.

Профессия №7: UX-дизайнер для ИИ

Сегодня мы взаимодействуем непосредственно с ИИ с помощью текста, изображений и иногда с помощью речи. Думаю, ситуация быстро изменится. Компаниям захочется, чтобы ИИ был незаметно встроен в нашу жизнь. Основная часть этой работы ляжет на плечи UX-дизайнеров и инженеров.

Если люди будут постоянно пользоваться этими инструментами, компании задумаются о том, чтобы сделать их максимально удобными. Возможно, именно это будет выгодно отличать один продукт от всех остальных.

Например, я ощущаю заметную разницу между ChatGPT и Bard. На мой взгляд, пользоваться ChatGPT гораздо удобнее: мне нравится его дизайн, нравится, что он пишет весь текст на экране и что я могу выбрать тёмную тему. Я бы не перешёл на Bard, даже если бы оба решения выдавали одинаковые результаты.

Думаю, компании будут активно инвестировать в новую профессию UX-дизайнера для ИИ. Эти специалисты будут продумывать и разрабатывать логику и пользовательский интерфейс продукта, чтобы решение выделялось на фоне конкурентов.

Навыки и компетенции

1. Опыт в области исследований пользовательского поведения, пользовательского тестирования и сбора обратной связи от пользователей с целью понять их потребности, предпочтения и болевые точки.
2. Умение создавать типажи пользователей, путь потребителя и пользователя, макеты и прототипы для проектирования и реализации UX.
3. Знание принципов, паттернов и передовых методов проектирования для создания интуитивно понятных, доступных и удобных пользовательских интерфейсов.
4. Уверенное знание инструментов дизайна, например, Sketch, Figma, Adobe XD и т. п. для создания и доработки внешнего вида продукта.
5. Знакомство с языками программирования — например, HTML, CSS и JavaScript для реализации фронтенд-дизайна продукта и совместной работы с разработчиками.
6. Понимание концепций, фреймворков и инструментов ИИ для интеграции функций и возможностей ИИ в продукт.
7. Представление об этике и принципах применения ИИ для реализации ответственного и справедливого использования искусственного интеллекта.

Источник