ChatGPT: слишком туп для творчества, но очень зловредный

Искусственный интеллект не способен заменить человека. Пока.

Чатбот ChatGPT стал наиболее обсуждаемой технологией последних недель. О нем пишут технологические медиа, обсуждают на форуме в Давосе, запрещают в университетах и присоединяют к поисковым системам. Ежедневно сайт ChatGPT посещают более 100 млн. пользователей. Контраверсионность этого инструмента проявляется в очень разнообразных его оценках. Одни эксперты называют его убийцей Google и причиной краха университетов, другие говорят, что ChatGPT – просто удобный инструмент для создания текстов, такой же простой и утилитарный, как калькулятор для простых математических вычислений. И так же, как калькулятор не может решать сложные задачи, так и ChatGPT не сможет написать аналитический материал. "ДС" разобралась, действительно ли чат ChatGPT, умеющий генерировать тексты, станет убийцей университетов и отберет работу у журналистов.

Истина, наверное, находится где-то посередине. ChatGPT же можно назвать началом нового этапа технологической революции, в которой искусственный интеллект сможет использовать любой человек для повседневных рутинных задач.

Как работает ChatGPT

ChatGPT – это инструмент, работающий с использованием искусственного интеллекта и умеющий создавать тексты на тему и работать в диалоговом режиме. Другими словами, ChatGPT может вести диалог с собеседником и отвечать на вопросы. Его ответы – это не случайный текст, они связаны с вопросами. ChatGPT также может найти нужную информацию и дать ответ на какую-то тему. С этим, наверное, связано то, что ChatGPT начали использовать для студенческих рефератов и научных эссе, а еще – для написания новостей. Есть уже попытки написать книги с помощью ChatGPT и даже создать программный код.

ChatGPT - образование и наука

Образование особенно сильно беспокоится из-за появления ChatGPT. Не успел чатбот стать массово популярным, как его стали запрещать в учебных заведениях.

Зато энтузиасты решили проверить, сможет ли ChatGPT если не учиться, то сдавать экзамены вместо студентов. Эти эксперименты имели разные, хотя, по большей части, успешные результаты. ChatGPT успешно сдал экзамены по основному курсу "Управление операциями" программы MBA в Уортонской бизнес-школе. В Университете Миннесоты ChatGPT сдал экзамен по праву и первый из экзаменов, которые сдают в США врачи.

Американские университеты и некоторые образовательные департаменты запретили использование ChatGPT студентами, несмотря на то, что опытные профессора научились понимать, какие именно студенческие работы были написаны чатом.

А вот финский университет Ювяскюля, наоборот, разрешил использовать этот инструмент. Свое решение руководство аргументировало тем, что чатбот сможет помочь студентам в учебе.

Ученые, работавшие над исследованиями с помощью ChatGPT, стали указывать чата соавтором своих работ. Хотя впоследствии наиболее важные научные издания Science и Nature запретили своим авторам указывать чатбот как соавтора. Эту же идею поддержали организаторы научной конференции по машинному обучению The International Conference on Machine Learning (ICML) и запретили использовать своим участникам ChatGPT при подготовке работ. Это вызвало оживленные дискуссии в научном мире, а инициаторы запрета объяснили, что в мире нет договоренности о том, кто на самом деле является автором текста, подготовленного искусственным интеллектом – человек-ученый или алгоритм. Не меньшей проблемой является то, можно ли считать такую работу оригинальной. Такое же мнение фигурирует и в специально созданной политике по использованию AI-инструментов для научных статей, опубликованной одним из крупнейших научных изданий Springer Nature.

ChatGPT и вопросы безопасности

В списке наиболее проблемных способов использования ChatGPT вопросы цифровой безопасности упоминаются несколько раз.

Среди этих проблем одной из самых больших является создание вредоносного программного обеспечения. Причем чатбот может делать это до бесконечности. Уже есть случаи создания полиморфных вирусов – изменяющих собственный код таким образом, чтобы их было сложно выявить антивирусными программами. Эксперимент по созданию полиморфного вируса с помощью ChatGPT оказался успешным. Созданный вирус не только не проявлялся существующими антивирусами, но не оставлял следов в памяти. Не менее пугающим является тот факт, что для того, чтобы заставить ChatGPT сделать это, человеку не нужно быть специалистом по безопасности или программистом. Исследователи, проводившие этот эксперимент, подытожили, что с помощью ChatGPT можно сделать кибератаки менее трудозатратными и более рентабельными.

Примеры опасных приложений, созданных с помощью ChatGPT, уже продаются в дарквебе. Инструменты, для которых использовали ChatGPT, были разработаны для вредоносного ПО и фишинговых писем, которые могли быть использованы для проведения шпионажа, вымогательских атак, спама.

Но, несмотря на эти очевидные угрозы, использование ChatGPT оказалось опасным и в других, менее очевидных случаях. К примеру, в компании Amazon порекомендовали не использовать этот инструмент из-за того, что он генерировал тексты, похожие на конфиденциальные документы компании. И даже предположили, что ChatGPT учился на некоторых из этих документов, которые слил один из сотрудников фирмы.

ChatGPT и создание текстов

Видимо журналисты и копирайтеры стали теми специалистами, которые больше всего озабочены появлением ChatGPT. Отношение к ChatGPT можно описать твитом одного из копирайтеров: "Клиент сообщил мне, что больше не будет платить за создание контента для сайта, потому что ИИ может писать его бесплатно. Однако он хочет платить мне часть, чтобы я "переписал" текст другими словами и тот прошел проверку Google".

Издание Cnet использовало чатбота для создания статей, однако со временем редакция отказалась от этой практики. А когда об этом стало известно и коллеги начали проверять тексты, созданные искусственным интеллектом, оказалось, что в них много фактологических ошибок и даже таких, которые могли навредить читателям. Последнее, к примеру, касалось рассылки о кибербезопасности. Более того, тексты очень напоминают ранее опубликованные на сайте материалы.

Это не помешало редакции Buzzfeed заявить о своих планах использования искусственного интеллекта для создания журналистских материалов.

Есть некоторые успехи в использовании ChatGPT для написания политических докладов. С таким искусственно сгенерированным докладом выступил конгрессмен из Массачусетса. Доклад, кстати, оценили как скучный и лишенный оригинальности. Подобный эксперимент по созданию текста выступления провел и премьер-министр Кыргызстана Акилбек Жапаров, выступая на форуме "Digital Almaty 2023".

Золотая середина

Появление инструментов искусственного интеллекта, таких как ChatGPT, наверняка изменит многие привычные вещи в нашей жизни. Уже сегодня можно опробовать ChatGPT, воспользовавшись одним из приложений, работающих с ChatGPT. Их возможности более чем наглядно показывают, что именно сегодня и в ближайшие годы будут уметь чаты с искусственным интеллектом. Это стандартные письма и отчеты, создание стандартных описаний к видео или товарам в интернет-магазинах, поиск в интернете и другие автоматизированные задачи. Результат применения ChatGPT для создания текста на украинском языке выглядит очень посредственно и создает впечатление "налитой воды", а не действительно интересного уникального материала.

Поэтому сегодня возможности AI-инструментов находятся на уровне автоматизации стандартных задач — они заменят райтеров, задача которых заключалась в написании стандартизированных текстов или офис-менеджеров, которые генерировали стандартные акты выполненных работ или счета на оплату.

Поэтому эксперты предлагают воспринимать ChatGPT как калькулятор и не больше и не запрещать ни в образовательном процессе, ни в журналистике. Такое же мнение высказал профессор Стэнфорда, назвав ChatGPT "калькулятором для письма": "чатбот лишит многих рутинных, механических задач, и в то же время использующие его люди смогут выполнять более творческую работу".

Интересно будет увидеть, например, через год, как ChatGPT и аналоги изменят существующие онлайн-сервисы, особенно после того, как в Google и Microsoft сообщили об интеграции искусственного интеллекта в их поисковые системы и офисные приложения.

Гораздо более серьезной проблемой является возможность ChatGPT генерировать фейки практически на любую тему и делать это мгновенно. Если к работе ChatGPT добавить изображения, сгенерированные искусственным интеллектом, то можно получить результат, по сравнению с которым бред российской пропаганды будет выглядеть детским лепетом.

Чтобы не пропустить самое важное, подписывайтесь на наш Telegram-канал.