Сейчас одна из самых больших тенденций в машинном обучении — это генерация текста. Системы искусственного интеллекта учатся, поглощая миллиарды слов, извлеченных из Интернета, и генерируют текст в ответ на различные запросы. Звучит просто, но эти машины можно использовать для решения широкого круга задач — от создания художественной литературы до написания плохого кода и предоставления вам возможности поболтать с историческими личностями.
Самым известным текстовым генератором AI является OpenAI GPT-3, который, как недавно объявила компания , теперь используется «десятками тысяч» разработчиков в более чем 300 различных приложениях и производит 4,5 миллиарда слов в день. Это много слов о роботах . Для OpenAI это может быть произвольной вехой, но это также полезный индикатор растущего масштаба, влияния и коммерческого потенциала генерации текста AI.
OpenAI начинала свою жизнь как некоммерческая организация, но последние несколько лет она пытается заработать на GPT-3 в качестве своего первого продаваемого продукта. Компания имеет эксклюзивное соглашение с Microsoft, которое дает технологическому гиганту уникальный доступ к базовому коду программы, но любая фирма может подать заявку на доступ к общему API GPT-3 и создать на его основе услуги.
Один стартап под названием Viable использует GPT-3 для анализа отзывов клиентов, выявления «тем, эмоций и настроений из опросов, обращений в службу поддержки, журналов чата, обзоров и т. Д.»; Fable Studio использует программу для создания диалогов в виртуальной реальности; и Algolia использует его для улучшения своих продуктов для поиска в Интернете, которые, в свою очередь, продает другим клиентам.
Все это хорошие новости для OpenAI (и Microsoft, чья платформа облачных вычислений Azure поддерживает технологию OpenAI ), но не всем в стране стартапов это нравится. Многие аналитики отмечают глупость построения компании на технологиях, которыми вы на самом деле не владеете. Использовать GPT-3 для создания стартапа до смешного просто, но и для ваших конкурентов это будет до смешного просто. И хотя есть способы выделить свой стартап GPT с помощью брендинга и пользовательского интерфейса, ни одна фирма не выиграет от использования этой технологии так, как сам OpenAI.
Еще одна проблема, связанная с распространением систем генерации текста, связана с проблемами качества вывода. Как и многие алгоритмы, текстовые генераторы способны поглощать и усиливать вредные предубеждения . Кроме того, они часто бывают поразительно тупыми. В тестах медицинского чат-бота, созданного с использованием GPT-3, модель реагировала на «суицидальных» пациентов, поощряя их к самоубийству . Эти проблемы не являются непреодолимыми, но их, безусловно, стоит отметить в мире, где алгоритмы уже создают ошибочные аресты , несправедливые оценки в школе и необъективные медицинские счета .
Однако, как показывает последняя веха OpenAI, GPT-3 будет продолжать говорить, и мы должны быть готовы к миру, наполненному болтовней, генерируемой роботами.