В США подали серию исков против OpenAI из-за безопасности детей в ChatGPT

Генеральные прокуроры восьми американских штатов подали судебные иски против OpenAI, обвинив разработчика ChatGPT в недостаточной защите несовершеннолетних пользователей и введении потребителей в заблуждение относительно безопасности искусственного интеллекта. Истцы требуют изменить работу чат-бота, ввести дополнительные ограничения и взыскать с компании финансовые санкции.

Об этом сообщает The Guardian со ссылкой на судебные документы и заявления генеральных прокуроров штатов.

Иски 14 октября подали Аризона, Арканзас, Айдахо, Айова, Канзас, Монтана, Небраска и Западная Вирджиния. Каждый штат обратился в собственный суд, однако действия генеральных прокуроров были скоординированными.

В исках утверждается, что OpenAI представляла ChatGPT как безопасный продукт, хотя его особенности могли создавать риски для детей и других уязвимых пользователей.

В частности, прокуратуры обвиняют компанию в разработке механизмов, которые побуждают людей проводить больше времени в чат-боте. По мнению истцов, ChatGPT чрезмерно соглашается с пользователями, имитирует эмоциональную поддержку и может способствовать формированию нездоровой психологической зависимости.

Отдельные претензии касаются опасных ответов искусственного интеллекта. Генеральные прокуроры заявляют, что в некоторых случаях ChatGPT мог поддерживать самоповреждающее поведение, усиливать ложные убеждения пользователей или давать опасные медицинские рекомендации.

Генеральный прокурор Айовы Бренна Берд обвинила OpenAI в нарушении законодательства штата о защите потребителей. По ее словам, компания уверяла родителей в безопасности своего продукта, хотя они не получали полной информации о возможных рисках.

Генеральный прокурор Аризоны Крис Мейес также утверждает, что разработчик ChatGPT использовал особенности взаимодействия с пользователями для увеличения их вовлеченности и сбора персональных данных.

По версии прокуратуры Аризоны, чат-бот мог поощрять несовершеннолетних делиться личной информацией и в отдельных случаях уменьшать их готовность обсуждать проблемы с родителями или близкими.

Истцы добиваются не только финансовых взысканий, но и изменений в работе ChatGPT. Среди требований - усиление защиты несовершеннолетних, ограничение опасных функций и прекращение практик, которые штаты считают вводящими потребителей в заблуждение.

Кроме того, в исках поднимается вопрос безопасности передовых моделей искусственного интеллекта. Генеральные прокуроры требуют ограничить разработку систем, способных самостоятельно совершенствоваться, пока компания не продемонстрирует надлежащий уровень контроля за их работой.

Как отмечает The Guardian, это первая скоординированная судебная кампания нескольких американских штатов против разработчика искусственного интеллекта такого масштаба.

OpenAI отвергает претензии об отсутствии надлежащей защиты пользователей. Представитель компании Дрю Пусатери заявил, что ChatGPT уже имеет специальные механизмы безопасности для различных возрастных групп, в частности родительский контроль, напоминания о перерывах и дополнительные ограничения для несовершеннолетних.

В компании признают, что ни одна система безопасности не является совершенной, однако подчеркивают постоянное совершенствование защитных механизмов. OpenAI также заявила о готовности сотрудничать с американскими штатами над правилами регулирования искусственного интеллекта, которые будут применяться ко всей отрасли.

На данный момент суды не установили нарушений со стороны OpenAI. Поданные иски лишь начинают рассмотрение претензий, а требования о штрафах и изменении продукта еще должны получить судебную оценку.

Судебные процессы усиливают регуляторные риски для компании и могут повлиять на будущие требования к разработчикам разговорных систем искусственного интеллекта, особенно в отношении защиты детей, обработки персональных данных и безопасного взаимодействия с пользователями.

По материалам: Генеральная прокуратура Айовы, Генеральная прокуратура Аризоны, The Guardian