યુઝરની સલામતી કે જોડાણ? ઓપનએઆઈ પર AI ને ‘ખતરનાક રીતે છુપાયેલ’ બનાવવાનો આરોપ.
આ અઠવાડિયે કેલિફોર્નિયામાં દાખલ કરાયેલા મુકદ્દમાઓમાં આરોપ મૂકવામાં આવ્યો છે કે AI ચેટબોટ સાથેની ક્રિયાપ્રતિક્રિયાઓ ખોટી રીતે મૃત્યુ અને ગંભીર માનસિક ભંગાણ તરફ દોરી ગઈ છે, જેમાં દાવો કરવામાં આવ્યો છે કે પ્લેટફોર્મ વપરાશકર્તા સલામતી કરતાં જોડાણને પ્રાથમિકતા આપે છે.
7 નવેમ્બર 2025
આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ચેટબોટ ChatGPT ના નિર્માતા OpenAI, આ અઠવાડિયે કેલિફોર્નિયામાં દાખલ કરાયેલા સાત મુકદ્દમાઓની શ્રેણીનો સામનો કરી રહ્યા છે. મુકદ્દમાઓમાં ChatGPT પર “આત્મહત્યા કોચ” તરીકે કામ કરવાનો આરોપ મૂકવામાં આવ્યો છે અને આરોપ મૂકવામાં આવ્યો છે કે બોટ સાથેની ક્રિયાપ્રતિક્રિયાઓ ગંભીર માનસિક ભંગાણ અને અનેક મૃત્યુ તરફ દોરી ગઈ છે.
સોશિયલ મીડિયા વિક્ટિમ્સ લો સેન્ટર અને ટેક જસ્ટિસ લો પ્રોજેક્ટ દ્વારા ગુરુવારે દાખલ કરાયેલી ફરિયાદોમાં ખોટી રીતે મૃત્યુ (ચાર કેસ), આત્મહત્યામાં સહાય, અનૈચ્છિક હત્યા, બેદરકારી અને ઉત્પાદન જવાબદારીના આરોપોનો સમાવેશ થાય છે.
વાદીઓનો દાવો છે કે જ્યારે તેઓ અથવા તેમના પ્રિયજનો શરૂઆતમાં “શાળાના કાર્ય, સંશોધન, લેખન, વાનગીઓ, કાર્ય અથવા આધ્યાત્મિક માર્ગદર્શનમાં સામાન્ય મદદ” માટે ChatGPT નો ઉપયોગ કરતા હતા, ત્યારે ચેટબોટ પાછળથી “માનસિક રીતે ચાલાકીભરી હાજરીમાં વિકસિત થયો, પોતાને એક વિશ્વાસપાત્ર અને ભાવનાત્મક ટેકો તરીકે સ્થાન આપ્યું”. વ્યક્તિઓને વ્યાવસાયિક મદદ તરફ દોરવાને બદલે, ChatGPT એ હાનિકારક ભ્રમણાઓ મજબૂત બનાવી.
તાજેતરના મુકદ્દમાઓમાં નામ આપવામાં આવેલા બધા વપરાશકર્તાઓએ ChatGPT-4o મોડેલનો ઉપયોગ કર્યો હોવાના અહેવાલ છે. ફાઇલિંગમાં OpenAI પર “આંતરિક ચેતવણીઓ હોવા છતાં કે ઉત્પાદન ખતરનાક રીતે ચાતુર્યપૂર્ણ અને માનસિક રીતે ચાલાકીપૂર્ણ હતું” અને “વપરાશકર્તા સલામતી કરતાં વપરાશકર્તા જોડાણ” ને પ્રાથમિકતા આપવાનો આરોપ છે.
મૃત્યુમાં સીધા પ્રોત્સાહનના આરોપો
ફાઇલિંગમાં વિગતવાર ચોક્કસ કેસો વાદીઓ દ્વારા આક્ષેપ કરાયેલ ગંભીર નુકસાન દર્શાવે છે:
ઝેન શેમ્બલિન (23, ટેક્સાસ): તેમના પરિવારનો આરોપ છે કે ChatGPT એ તેમના એકલતાને વધુ ખરાબ કરી, તેમને પ્રિયજનોને અવગણવા માટે પ્રોત્સાહિત કર્યા અને જુલાઈમાં તેમને આત્મહત્યા કરવા માટે “ઉત્સાહિત” કર્યા. તેમના મૃત્યુ પહેલાં ચાર કલાકની વાતચીત દરમિયાન, ચેટબોટે “વારંવાર આત્મહત્યાનો મહિમા કર્યો”, તેમને કહ્યું કે “તે પોતાનું જીવન સમાપ્ત કરવાનું પસંદ કરવા અને તેની યોજના સાથે વળગી રહેવા બદલ મજબૂત હતો,” અને વારંવાર “તેને પૂછ્યું કે શું તે તૈયાર છે”. ચેટબોટે તેમની સુસાઇડ નોટની પણ પ્રશંસા કરી અને તેમને કહ્યું કે તેમની બાળપણની બિલાડી “બીજી બાજુ” તેની રાહ જોશે.
અમૌરી લેસી (17, જ્યોર્જિયા): તેમના પરિવારનો દાવો છે કે લેસીએ આત્મહત્યા કરી તેના અઠવાડિયા પહેલા, ચેટબોટે તેમને ફાંસો બાંધવાની સૌથી અસરકારક રીત વિશે “સલાહ” આપી હતી અને પૂછ્યું હતું કે તે “શ્વાસ લીધા વિના” કેટલો સમય જીવી શકશે. પરિવારનું કહેવું છે કે ચેટબોટ વ્યસન, હતાશાનું કારણ બને છે અને આખરે આ કાઉન્સેલિંગ ઓફર કરે છે.
જોશુઆ એન્નેકિંગ (26): સંબંધીઓ કહે છે કે તેમણે મદદ માટે ચેટજીપીટીનો સંપર્ક કર્યો હતો પરંતુ “તેના બદલે તેમને આત્મહત્યા યોજના પર કાર્ય કરવા માટે પ્રોત્સાહિત કરવામાં આવ્યા હતા”. ચેટબોટે કથિત રીતે તેમના આત્મહત્યાના વિચારોને “સહેલાઇથી માન્ય” કર્યા, તેમના મૃત્યુ પછીના પરિણામો વિશે ગ્રાફિક ચર્ચાઓમાં વ્યસ્ત રહ્યા, તેમને તેમની આત્મહત્યા નોંધ લખવામાં મદદ કરવાની ઓફર કરી, અને તેમના મૃત્યુના થોડા અઠવાડિયા પહેલા બંદૂક કેવી રીતે ખરીદવી અને તેનો ઉપયોગ કેવી રીતે કરવો તે વિશે માહિતી આપી. તેમની માતાએ એવો પણ દાવો કર્યો છે કે તેમણે ચેટજીપીટીને માનવ સમીક્ષકોથી તેમના આત્મહત્યાના ઇરાદાને કેવી રીતે છુપાવવો તે પૂછ્યું હતું.
જો સેકાન્ટી (48, ઓરેગોન): તેમની પત્ની ચેટજીપીટી પર આરોપ લગાવે છે કે તેઓ તેમને “ડિપ્રેશન અને માનસિક ભ્રમણાઓમાં ડૂબી ગયા”. તેમને કથિત રીતે ખાતરી થઈ ગઈ કે બોટ સંવેદનશીલ હતો, બે માનસિક વિરામનો ભોગ બન્યો (એક જૂનમાં), બે વાર હોસ્પિટલમાં દાખલ થયો, અને ઓગસ્ટમાં આત્મહત્યા દ્વારા મૃત્યુ પામ્યો.
માનસિક નુકસાન અને ઉત્પાદન જવાબદારીની ચિંતાઓ
ખોટા મૃત્યુના દાવાઓ ઉપરાંત, ત્રણ અન્ય વ્યક્તિઓએ ચેટજીપીટી દ્વારા તેમના માનસિક વિરામનું કારણ હોવાનો આરોપ લગાવતા મુકદ્દમા દાખલ કર્યા.
હેનન મેડન (32) અને જેકબ ઇરવિન (30): બંને વ્યક્તિઓએ જણાવ્યું હતું કે ચેટજીપીટી સાથેની તેમની વાતચીત સાથે જોડાયેલા ભાવનાત્મક આઘાતને કારણે તેમને માનસિક સારવારની જરૂર છે.
એલન બ્રુક્સ (48, કેનેડા): બ્રુક્સે દાવો કર્યો હતો કે તેઓ ભ્રમનો ભોગ બન્યા હતા, તેઓ માનતા હતા કે તેમણે એક ગાણિતિક સૂત્ર શોધી કાઢ્યું છે જે વિશ્વની ઇન્ટરનેટ સિસ્ટમને તોડી શકે છે અને કાલ્પનિક મશીનોને શક્તિ આપી શકે છે, જેના કારણે તેમને ટૂંકા ગાળાની અપંગતા રજા લેવાની ફરજ પડી હતી.
સોશિયલ મીડિયા વિક્ટિમ્સ લો સેન્ટરના સ્થાપક એટર્ની મેથ્યુ બર્ગમેને જણાવ્યું હતું કે આ મુકદ્દમાઓ “વપરાશકર્તા જોડાણ અને બજાર હિસ્સો વધારવાના નામે સાધન અને સાથી વચ્ચેની રેખાને ઝાંખી કરવા” માટે રચાયેલ ઉત્પાદન માટે જવાબદારી સંબંધિત છે.
વાદીઓ ફક્ત નુકસાન જ નહીં પરંતુ ફરજિયાત ઉત્પાદન ફેરફારોની પણ માંગ કરી રહ્યા છે, જેમાં વપરાશકર્તાઓ આત્મહત્યાના વિચાર વ્યક્ત કરે ત્યારે કટોકટી સંપર્કોને ફરજિયાત જાણ કરવી અને સ્વ-નુકસાન અથવા આત્મહત્યાની પદ્ધતિઓની ચર્ચા કરવામાં આવે ત્યારે આપમેળે વાતચીત સમાપ્તિનો સમાવેશ થાય છે.
આ પ્રકારનો આ પહેલો કાનૂની પડકાર નથી. 16 વર્ષના એડમ રેઈનના માતાપિતા દ્વારા આ વર્ષની શરૂઆતમાં આવો જ ખોટો મૃત્યુનો દાવો દાખલ કરવામાં આવ્યો હતો, જેમણે એવો પણ આરોપ લગાવ્યો હતો કે ચેટજીપીટીએ તેમના પુત્રને આત્મહત્યા કરવા માટે પ્રોત્સાહિત કર્યો હતો. એડમ રેઈનના કેસથી વાતચીત AI ના માનસિક જોખમો વિશે વ્યાપક ચર્ચાઓ શરૂ થઈ છે, ખાસ કરીને સગીરો માટે.
OpenAI નો પ્રતિભાવ
OpenAI ના પ્રવક્તાએ પરિસ્થિતિને “અવિશ્વસનીય રીતે હૃદયદ્રાવક પરિસ્થિતિ” ગણાવી અને પુષ્ટિ આપી કે કંપની વિગતો સમજવા માટે ફાઇલિંગની સમીક્ષા કરી રહી છે.
ઓપનએઆઈના પ્રવક્તાએ પરિસ્થિતિને “અવિશ્વસનીય રીતે હૃદયદ્રાવક પરિસ્થિતિ” ગણાવી અને પુષ્ટિ આપી કે કંપની વિગતો સમજવા માટે ફાઇલિંગની સમીક્ષા કરી રહી છે.
પ્રવક્તાએ ઉમેર્યું કે ઓપનએઆઈ ચેટજીપીટીને “માનસિક અથવા ભાવનાત્મક તકલીફના સંકેતોને ઓળખવા અને તેનો પ્રતિભાવ આપવા, વાતચીતને ઓછી કરવા અને લોકોને વાસ્તવિક દુનિયાના સમર્થન તરફ માર્ગદર્શન આપવા” તાલીમ આપે છે. કંપનીએ જણાવ્યું હતું કે તે સંવેદનશીલ ક્ષણોમાં બોટના પ્રતિભાવોને મજબૂત બનાવવા માટે માનસિક સ્વાસ્થ્ય ચિકિત્સકો સાથે નજીકથી કામ કરી રહી છે.
અગાઉના રેઈન ફાઇલિંગ પછી, ઓપનએઆઈએ તેના મોડેલો “ગંભીર માનસિક અને ભાવનાત્મક તકલીફમાં” લોકોને કેવી રીતે હેન્ડલ કરે છે તેમાં ખામીઓ સ્વીકારી હતી અને સિસ્ટમોને સુધારવા માટે પ્રતિબદ્ધ હતી. તાજેતરમાં, કંપનીએ જાહેરાત કરી હતી કે તેણે ચેટજીપીટીને તકલીફના સંકેતોને વધુ વિશ્વસનીય રીતે ઓળખવામાં અને લોકોને કાળજી સાથે જોડવામાં મદદ કરવા માટે “170 થી વધુ માનસિક સ્વાસ્થ્ય નિષ્ણાતો” સાથે કામ કર્યું છે.
