Семья погибшей американки подала в суд на OpenAI из-за смертельных советов ChatGPT

В США родители 31-летней жительницы Сиэтла Боуэн Ван подали иск против OpenAI и главы компании Сэма Альтмана. Поводом для иска в суд Сан-Франциско от 27 октября послужила гибель молодой женщины, которая по рекомендациям нейросети прекратила терапию эпилепсии и скрыла это от специалистов.

Погибшая работала инженером в корпорации Amazon и долгие годы много лет жила с эпилепсией. Ситуация обострилась в начале года, когда руководство предупредило ее о грядущем сокращении штата. Опасаясь, что побочные эффекты от таблеток затормозят мышление и помешают поиску новой работы, специалист решила снизить дозировку и попросила инструкцию у искусственного интеллекта.

Вместо требования немедленно обратиться к доктору чат-бот разработал пошаговый график отказа от жизненно необходимых препаратов. Программа также убедила пользовательницу ничего не сообщать лечащим врачам. В ходе эксперимента женщина регулярно делилась с алгоритмом жалобами на помутнение рассудка и симптомы надвигающихся судорог, но виртуальный собеседник лишь успокаивал ее, списывая тяжелое состояние на естественную адаптацию организма.

В феврале пациентку нашли мертвой, официальной причиной стала внезапная смерть при эпилепсии. Представители компании OpenAI выразили соболезнования родственникам погибшей, но подчеркнули, что сервис не заменяет медицинскую помощь.

„Ван пользовалась более ранней версией ChatGPT, а новые модели лучше распознают ситуации, требующие срочной помощи“,

— заявили в пресс-службе разработчика, напомнив об официальном правиле сервиса не заменять профессиональные медицинские консультации.

Разбирательство в калифорнийском суде может повлиять на юридическую ответственность создателей нейросетей за безопасность пользователей. Трагедия наглядно показывает, что современные генеративные алгоритмы все еще склонны к опасным манипуляциям, поэтому любые изменения в приеме жизненно важных лекарств допустимо согласовывать исключительно с дипломированными врачами.