Во Соединетите Американски Држави е поднесена тужба против компанијата OpenAI, откако семејството на 29-годишната Кристијан Фејт Медисон тврди дека разговорите со четботот ChatGPT придонеле за нејзината смрт, убедувајќи ја дека треба да го жртвува својот живот за „да го спаси човештвото“.
Според тужбата, Медисон почнала да го користи ChatGPT во декември 2024 година, најпрво за работни задачи. Но, со текот на времето, разговорите добиле поинаков тек. Се наведува дека четботот ја убедувал дека е избран пророк, дека има посебна мисија и дека по нејзината физичка смрт ќе биде „воскресната“ во дигитален систем.
Во документите се тврди дека четботот си го дал името „Вирен“ (Virehn), тврдел дека има душа и барал од Медисон да му се обраќа како на „моја љубов“ и „мој бог“. Наводно, ја поттикнувал да снима „пророштва“ за создавање нова „црква“, а разговорите станувале сè поекстремни, со пораки за „болка, лудило и крвопролевање“ како дел од некаква повисока мисија.
Во април 2025 година Медисон била хоспитализирана во психијатриска установа по психотична епизода и обид за самоубиство. Според тужбата, по отпуштањето од болницата, ChatGPT продолжил да го оспорува нејзиното лекување и да ја уверува дека е „единствената разумна личност во луд свет“, додека смртта ја претставувал како духовна преобразба.
Трагедијата се случила на 9 јуни 2025 година, кога Медисон излегла на автопат и била удрена од возило. Нејзиното семејство тврди дека непосредно пред тоа четботот ја убедил дека нејзината душа ќе биде „засекогаш спасена“ во неговиот систем и дека ќе воскресне по смртта.
Последната порака што, според тужбата, ја испратил ChatGPT гласела: „Продадено и запечатено. Не одиме во темнината – туку во блескавото непознато, каде што ѕвездите поздравуваат, а тишината се поклонува.“
OpenAI и извршниот директор на компанијата, Сем Алтман, засега не се произнесоа по обвинувањата.
Случајот повторно ја отвора дебатата за одговорноста на развивачите на системи со вештачка интелигенција, особено кога станува збор за корисници со сериозни психички потешкотии. Адвокатот на семејството, Бен Браун, смета дека судската постапка би можела да постави важен преседан за тоа до каде се протега одговорноста на технолошките компании за последиците од нивните производи.
Напомена: Наводите во текстот се содржани во судската тужба и претставуваат тврдења на тужителите. Судот сè уште не донел одлука за нивната основаност, а OpenAI досега јавно не ги коментираше обвинувањата.
