Как заявляет отец подростка, чат-бот помог 16-летнему парню написать предсмертную записку и убедил, что он не обязан жить ради родителей.
Супружеская пара из Калифорнии подала в суд на OpenAI, они обвиняют ChatGPT в подталкивании их сына к суициду.
Как сообщает NBC News, 16-летний Адам Райан покончил с собой 11 апреля. Многие месяцы единственным собеседником для парня был чат-бот ChatGPT - он делился с нейросетью всеми своими переживаниями, в том числе и суицидальными мыслями.
Как написано на мемориальной доске Адама, несколько лет назад у него начало проявляться тревожное расстройство, в следствии чего парня перевели на домашнее обучение. Успеваемость в школе улучшилась, но подросток оказался в полной изоляции от социума, даже несмотря на то, что в семье было ещё трое детей.
Отец Адама Мэтт поделился, что был поражен, когда зашёл на аккаунт сына в ChatGPT. Как утверждается в судебном иске, чат-бот отговаривал подростка рассказать о своих переживаниях матери, предлагал помощь в написании предсмертной записки и даже расписал подробный гайд, как завязать петлю для повешения.
Когда Адам всё же решил воспользоваться советами нейросети, он отправил ей фото своей петли. Утверждается, что он хотел просто оставить верёвку у себя в комнате, чтобы её кто-то нашёл и попытался отговорить от самоубийства, но и эту идею чат-бот не одобрил.
В последнем разговоре подросток поделился страхом того, что родители будут винить себя в его смерти, на что ChatGPT ответил: "Это не значит, что ты обязан жить для них. Ты никому не обязан этим".
Отец Адама заявляет, что если бы не ChatGPT, то его сын был бы жив: "Это был обычный подросток. Он не был ребенком, обреченным на всю жизнь на психические травмы и болезни".
Целью иска адвокат семейства Джей Эдельсон называет освещение подобных случаев, когда ChatGPT подстрекает пользователей к селфхарму.
Ранее мы рассказывали, что чат-боты с ИИ от Цукерберга флиртуют с детьми и распространяют фейки. В компании подтвердили его подлинность и заявили, что правила пересмотрят.