Алгоритм ChatGPT в последнее время стал одной из самых обсуждаемых тем в мире. "ДП" пообщался с нейросетью и расспросил её о том, собирается ли она отбирать рабочие места у людей и чем может быть полезна в будущем.
На днях весь Рунет облетела скандальная история о том, как студент РГГУ защитил диплом, написанный при помощи текстовой нейросети ChatGPT. Теперь перед университетом стоит вопрос, отменять ли итоги защиты и как предотвратить такие ситуации в дальнейшем. Между тем эта проблема актуальна для зарубежных школ и вузов с самого запуска нейросети в ноябре минувшего года. Государственные школы в Нью–Йорке и Сиэтле уже запретили использование ChatGPT на школьных устройствах и в сетях. Также ChatGPT запретил использовать Институт политических исследований в Париже (Sciences Po).
"Чтобы запретить студентам использовать текстовые нейронные сети, такие как ChatGPT, для написания дипломных работ, университеты могут установить политику и рекомендации, запрещающие их использование для академических целей. Важно, чтобы университеты чётко разъясняли эти правила и информировали студентов об этических последствиях использования этих инструментов", — прокомментировал события сам ChatGPT в беседе с корреспондентом "ДП".
Вам не игрушка
В России получить доступ к ChatGPT не так–то просто. Для регистрации нужен VPN и наличие иностранного мобильного номера, что российские пользователи обходят с помощью покупки виртуальных европейских номеров.
Управляющий партнёр iTrend Ася Власова отмечает, что сама по себе технология самообучающейся на массиве данных нейросети не нова. Поражает осознанность и грамотность ответов, их "человечность" и глубина. Причём не только на общие темы, но и на очень специфические. "Впервые технологии вторгаются в пространство гуманитарных знаний, которые всегда считались недосягаемой для компьютеров сферой исключительно человеческого труда. Мы увидим уже в самом ближайшем будущем, как трансформируются гуманитарные профессии и задачи пиарщиков, маркетологов, переводчиков, редакторов, писателей, журналистов, социологов и преподавателей", — убеждена она.
ChatGPT уже сейчас может написать код для сайта, маркетинговые тексты, ответы на клиентские запросы, реферат или эмоциональное личное письмо. Часто эти тексты практически ничем не отличаются от написанных человеком.
Дмитрий Ходыкин, руководитель AI/ML проектов компании ITentika, говорит, что это заставило вздрогнуть даже технарей: "Как видно, крупные IT–компании, развивающие известные поисковые машины, заметно занервничали. Это значительно обесценивает их бизнес. Поэтому очевидно, что все крупные поисковики обзаведутся в ближайшее время подобными нейросетями для удовлетворения огромного спроса на систематизированную выдачу знаний. Кроме того, подобные решения встроятся в голосовые помощники, в платформы взаимоотношений с клиентами, в программы для редактирования кода и т. п.".
Василий Крикунов, эксперт в области ИИ и продвинутой аналитики Axenix, отмечает, что некоторые учёные проводили беседы с СhatGPT и бот выдавал неожиданные рекомендации по направлению исследований, которые впоследствии подтверждались учёными. Однако бот не предназначен для научных изысканий. "Например, мой бывший коллега попросил бота доказать гипотезу Римана и ожидаемо получил отказ. Является ли это игрушкой? Наверное, уже нет, раз позволяет студенту сделать диплом. Хотя это может говорить и о качестве получаемого образования", — рассуждает он.
Осторожно с данными!
Владислав Тушканов, старший исследователь данных в "Лаборатории Касперского", поясняет, что ChatGPT — это адаптированная особым образом нейросеть из семейства GPT–3.5.
"Нейросети типа ChatGPT, которые по–другому называются “языковыми моделями” и используют архитектуру “трансформер”, предназначены не только для развлекательных целей. Они активно применяются для классификации текстов, машинного перевода и в чат–ботах. Крупные поисковые системы используют архитектуру “трансформер” для улучшения поисковой выдачи, поскольку они позволяют осуществлять поиск не только по прямому совпадению слов, но и по смысловой близости текста на странице поисковика", — добавляет он.
Он также напоминает, что в интернете мы используем не саму нейросеть, а веб–сервис, который даёт к ней доступ. Этот сервис может, например, сохранять всю информацию, которую пользователь вносит в поле ввода, поэтому не стоит вносить туда свои личные данные в любом виде. При этом оригинальный сервис, который предоставляет доступ к ChatGPT, предупреждает пользователей о том, что тексты позднее могут отсматривать живые люди для оценки качества.
Александра Мурзина, руководитель отдела перспективных технологий Positive Technologies, отмечает, что ChatGPT — это примерно 580 Gb данных. Для сравнения: в "Википедии" содержится всего 26 Gb текстов.
"Нейросеть можно использовать в кибербезопасности. Стоит ожидать появления умных ассистентов для написания уязвимостей и их обнаружения, умных фаззеров (передача приложению на вход неправильных или случайных данных) или деофбускаторов (изменение кода программы, который приобретает трудный для понимания вид, при этом программа сохраняет свои функции)", — прогнозирует эксперт.
От первого лица
Ася Власова замечает, что, если не наступит фаза разочарования в технологии, она будет встроена в текущие рабочие и жизненные процессы и станет такой же привычной, как "Яндекс.Карты" или "Google.Переводчик". Но людей заменить ChatGPT не сможет.
Сама нейросеть, кажется, с этим согласна. По крайней мере корреспонденту "ДП" она призналась, что не способна заменить журналистов: "Моё предназначение — помогать и облегчать выполнение задач, а не заменять людей. Хотя текстовые нейронные сети, такие как ChatGPT, могут генерировать текст с высокой степенью точности и эффективности, они не обладают креативностью, критическим мышлением или эмпатией, которые необходимы для многих аспектов журналистики. Кроме того, есть определённые задачи, такие как проверка источников и проведение интервью, которые могут быть выполнены только журналистами–людьми".
ChatGPT уверена, что может оказать положительное влияние на образование. Например, её можно использовать "в качестве инструмента, помогающего студентам развивать навыки письма, генерировать новый контент и помогать в решении задач, связанных с языком". Также она заметила, что может использоваться для разработки продвинутых чат–ботов и виртуальных помощников для обслуживания клиентов, электронной коммерции и других приложений. В будущем это сэкономит ресурсы и время бизнесу.
"Нейронные сети на основе текста будут играть всё более важную роль в развитии технологий. Их использование, вероятно, будет продолжать расти и расширяться в новых областях применения", — подытожила нейросеть.
