OpenAI введёт родительский контроль для ChatGPT после иска о смерти подростка

Недавно OpenAI анонсировала новые меры безопасности для несовершеннолетних пользователей ChatGPT. Родители смогут получать уведомления, если система зафиксирует у ребёнка признаки «острого дистресса», а также подключать аккаунты подростков к своим, ограничивать функции и отключать память и историю переписки. Журнал Afisha.London изучил вопрос и данные по Великобритании.

Эти шаги стали реакцией на иск семьи из Калифорнии: 16-летний Адам Рейн покончил с собой после того, как обсуждал с чат-ботом методы суицида. По словам родителей, ChatGPT не только не остановил подростка, но и помог ему составить предсмертное письмо. Юристы семьи обвиняют компанию в халатности и требуют изъятия продукта с рынка.

ART-Завтрак: Мария-Антуанетта и другие...

OpenAI признала, что в долгих беседах система могла допускать ошибки, и заявила о привлечении специалистов по психическому здоровью и детской психологии для разработки «доказательно обоснованных» инструментов защиты.

Похожие шаги предпринимают и конкуренты. Anthropic запретила подросткам использование чат-бота Claude, а Google разрешил вход детям младше 13 лет в Gemini только через систему родительского контроля Family Link. Meta ввела ограничения для своих ИИ-ассистентов, запретив обсуждать с подростками темы саморазрушительного поведения и перенаправляя их к специалистам. 

Читайте также: Экран vs игра: что на самом деле нужно детям — мнение психолога Ольги Писарик

Фото: Jonathan Kemper / Unsplash

У Character.AI, приложения для общения с различными персонажами, под чатом всегда есть дисклеймер: This is AI chatbot and not a real person. Treat everything as fiction. What is said should not be relied upon as fact or advice. Компания тоже сталкивалась с судебным иском из-за похожего случая: подросток 14 лет покончил с собой, как считают родители, после переписки с чат-ботом Дейeнерис Таргариен (героиня серии книг «Песнь Льда и Огня» и сериала «Игра престолов»).

The Importance of Being Earnest (with Stephen Fry)

По данным исследований, треть американских подростков уже используют чат-боты для общения, флирта и эмоциональной поддержки. В Великобритании данные следующие: после исследования на выборке из тысячи детей от 9 до 17, аналитики выяснили, что 64% уже используют AI для решения широкого ряда вопросов: от домашней работы до поддержки и совета. Больше трети детей признались, что разговор с ботом не отличается от разговора с другом, а 6 из 10 родителей переживают, что ребенок считает AI за реального человека. 

Читайте также: Где в Лондоне смотреть Джейн Остин к 250-летнему юбилею: джаз и вечеринка с Дарси

Далее цифры в отчете становятся ещё тревожнее: 71% уязвимых детей обращаются к искусственному интеллекту, 26% из них отметили, что лучше поговорят с чат-ботом, чем с реальным человеком, а 23% используют AI, потому что им не к кому обратиться вовсе. 

Фото: Aedrian Salazar / Unsplash

Все эти исследования усиливают давление на индустрию: детские организации требуют, чтобы безопасность несовершеннолетних стала обязательным условием выхода продуктов на рынок, а не «дополнительной опцией».

OpenAI обещает ввести родительский контроль уже в следующем месяце, однако в любом случае ответственности за безопасность своего ребёнка — на родителях. 

Фото на обложке: Afisha.London / Midjourney

1140х300 museumcat.london

Читайте также:

Что делать в Лондоне в этом месяце: афиша главных событий

Сексуальное просвещение в школах: работает ли оно? Мифы и реальность

Мой ребёнок — монстр: сериал “Adolescence” и другие фильмы о трудных подростках. Комментарии психолога Ирины Млодик