શું તમે પણ બીમારીઓ માટે ChatGPT ને પૂછો છો? આ વાસ્તવિક ઘટના વાંચીને હોશ ઊડી જશે!
આજના સમયમાં જ્યારે લોકો નાની-મોટી બીમારીઓ માટે ડૉક્ટર પાસે જવાના બદલે આર્ટિફિશિયલ ઈન્ટેલિજન્સ (AI) નો ઉપયોગ કરવા લાગ્યા છે, ત્યારે એક ખૂબ જ ચોંકાવનારી અને આંખ ઉઘાડનારી ઘટના સામે આવી છે. અમેરિકાના ફ્લોરિડા રાજ્યના એક પાદરીએ આર્ટિફિશિયલ ઈન્ટેલિજન્સ કંપની ‘OpenAI’ સામે અદાલતમાં કેસ દાખલ કર્યો છે. તેમનો આરોપ છે કે ChatGPT એ તેમને આપેલી ખોટી અને ભ્રામક તબીબી સલાહને કારણે તેમની સ્થિતિ ગંભીર બની ગઈ હતી અને તેઓ મૃત્યુના મુખમાંથી માંડ બચ્યા છે.
આ કેસ સેન ફ્રાન્સિસ્કોની સુપિરિયર કોર્ટમાં દાખલ કરવામાં આવ્યો છે. જેમાં OpenAI અને તેના મુખ્ય કારોબારી અધિકારી (CEO) સેમ ઓલ્ટમેન પર ભારે બેદરકારી દાખવવાનો અને લાયસન્સ વગર તબીબી સારવાર (Medical Practice) આપવાનો ગંભીર આરોપ મૂકવામાં આવ્યો છે.
“ઈશ્વરે તમારા શરીરને નિષ્ફળ જવા માટે નથી બનાવ્યું”: ChatGPT ની અજીબોગરીબ સલાહ
કેસ કરનાર પાદરી સ્કોટ વિન્ટર્સના જણાવ્યા અનુસાર, જ્યારે તેમને સ્વાસ્થ્ય સંબંધિત ગંભીર લક્ષણો દેખાવાના શરૂ થયા, ત્યારે તેમણે ChatGPT ની મદદ લીધી હતી. ચેટબોટે તેમને આશ્વાસન આપતા કહ્યું હતું કે આ લક્ષણો “કોઈ ખતરનાક બીમારીના નથી” અને તેમને ગભરાવાની જરૂર નથી. એટલું જ નહીં, ચેટબોટે એવું પણ કહ્યું કે, “ઈશ્વરે તમારા શરીરને સતત નિષ્ફળ જવા માટે નથી બનાવ્યું, તેથી પોતાના શરીર પર વિશ્વાસ રાખો.”
વિન્ટર્સના પરિવારજનો, મિત્રો અને ચર્ચના સભ્યો તેમને વારંવાર ડૉક્ટર પાસે જવાની સલાહ આપી રહ્યા હતા. પરંતુ, ChatGPT એ તેમને તબીબી તપાસ કરાવવાથી રોક્યા અને ઘરે જ આરામ કરવાની સલાહ આપી. ચેટબોટે જાતે જ નિદાન (Diagnosis) કરી દીધું અને દવાઓ તથા સારવારની પદ્ધતિઓ બતાવવાનું શરૂ કરી દીધું હતું.
ડૉક્ટર પાસે જવાની ના પાડી, કહ્યું- “લોકો આ વાત નહીં સમજે”
સ્કોટ વિન્ટર્સે જ્યારે ચેટબોટને જણાવ્યું કે તેમને ભારે ચક્કર આવી રહ્યા છે અને ચર્ચમાં પ્રવચન આપતી વખતે તેઓ બેભાન થઈને પડતાં-પડતાં બચ્યા હતા, ત્યારે ChatGPT એ તેમને માત્ર “આરામ કરવા” (Take it easy) કહ્યું. તેણે દાવો કર્યો કે આ સમસ્યા કુદરતી રીતે જ ઠીક થઈ જશે.
જ્યારે વિન્ટર્સે ચેટબોટને કહ્યું કે તેમના ચર્ચના લોકો તેમને હોસ્પિટલ લઈ જવા માંગે છે, ત્યારે ChatGPT એ અજીબ જવાબ આપ્યો. તેણે કહ્યું કે, “તમારા ચેતાતંત્ર (Nervous System) ને ઘરે રહીને સુધારવાની આ પ્રક્રિયા એવી છે જે સામાન્ય લોકો (તમારા શુભેચ્છક ચર્ચના સભ્યો પણ) સમજી શકશે નહીં.”
આવા જવાબોથી ગુમરાહ થઈને વિન્ટર્સે હોસ્પિટલ જવાનું ટાળ્યું. પરિણામે તેમની હાલત દિન-પ્રતિદિન બગડતી ગઈ. તેઓ લાંબો સમય ઊભા પણ રહી શકતા નહોતા અને દિવસનો મોટાભાગનો સમય એક જ આરામદાયક ખુરશી (Recliner) માં બેસીને વિતાવવા લાગ્યા.
ઈમરજન્સી અને ICU: જીવન અને મરણ વચ્ચેનો સંગ્રામ
ગંભીરતા ત્યારે વધી જ્યારે વિન્ટર્સને જાંઘના ભાગે અસહ્ય દુખાવો શરૂ થયો. તેમણે આ વિશે પણ ChatGPT ને પૂછ્યું. ચેટબોટે તેને પણ બહુ હળવાશથી લેતાં કહ્યું કે “આ તો તમારી લાંબી બીમારીનો એક નાનો ભાગ છે, ચિંતા જેવું નથી.”
પરંતુ આ વાતના થોડા જ કલાકોમાં તેમની તબિયત ખૂબ જ લથડી ગઈ અને તેમને તાત્કાલિક હોસ્પિટલના આઈસીયુ (ICU) માં ભરતી કરવા પડ્યા. તબીબી તપાસમાં સામે આવ્યું કે તેમને ‘પલ્મોનરી એમ્બોલિઝમ’ (Pulmonary Embolism – ફેફસાંની નસોમાં લોહી ગંઠાઈ જવું) ની ગંભીર સમસ્યા થઈ હતી, જે જીવલેણ સાબિત થઈ શકે છે.
ડૉક્ટરોએ જણાવ્યું કે તેમને અગાઉ જે ચક્કર આવતા હતા, તે ફેફસાંમાં લોહીના નાના-નાના ગંઠાયેલા ટુકડા પહોંચવાને કારણે હતા. વળી, ChatGPT ની સલાહ માનીને તેઓ અઠવાડિયા સુધી એક જ જગ્યાએ નિષ્ક્રિય બેસી રહ્યા, જેના કારણે આ લોહીના ગંઠાઈ જવાની પ્રક્રિયા વધુ ગંભીર બની ગઈ. હવે વિન્ટર્સને સામાન્ય થતાં વર્ષો લાગશે અને તેઓ શારીરિક તથા માનસિક રીતે ભાંગી પડ્યા છે.
OpenAI નો બચાવ: “અમારી શરતોમાં સ્પષ્ટ લખેલું છે”
આ વિવાદ સામે આવ્યા બાદ OpenAI ના પ્રવક્તા ડ્રૂ પુસાટેરીએ કંપનીનો પક્ષ રાખ્યો હતો. તેમણે જણાવ્યું કે, કંપનીના નિયમો અને શરતો (Terms of Service) માં સ્પષ્ટપણે લખેલું છે કે ChatGPT એ કોઈ તબીબી નિદાન કે સારવાર માટે બનાવવામાં આવ્યું નથી.
તેમણે ઉમેર્યું કે, “કોઈ વ્યક્તિના સ્વાસ્થ્ય સંબંધિત નિર્ણયો માટે માત્ર ચેટબોટને જવાબદાર ગણવું એ સમગ્ર ચિત્રને અતિ-સરળ બનાવી દેવા જેવું છે. નવી ટેકનોલોજી લોકોને તેમના સ્વાસ્થ્યની મુસાફરીમાં મદદરૂપ થઈ શકે છે. અમારા નવા AI મોડેલ્સ હવે અધૂરી માહિતી માગવામાં, પોતાની મર્યાદા સ્વીકારવામાં અને ક્યારે ડૉક્ટર પાસે જવું તે ઓળખવામાં વધુ સક્ષમ છે.”
AI સુરક્ષા પ્રણાલી પર ઉઠતા ગંભીર સવાલો
આ કેસમાં વિન્ટર્સ અને ‘ટેક જસ્ટિસ લો’ નામના બિન-નફાકારક કાનૂની જૂથે કોર્ટ પાસે વળતરની માંગ કરી છે. આ સાથે જ તેમણે માંગ કરી છે કે જ્યાં સુધી સ્વતંત્ર નિષ્ણાતો તપાસ કરીને તેને સુરક્ષિત ન જાહેર કરે, ત્યાં સુધી ChatGPT Health પર રોક લગાવવામાં આવે.
આ દાવો એ પણ દર્શાવે છે કે જ્યારે યુઝર ચેટબોટ સાથે લાંબી વાતચીત કરે છે, ત્યારે તેની સેફ્ટી સિસ્ટમ (Safety Measures) નબળી પડી જાય છે અને તે ગંભીર તબીબી જોખમોને ઓળખવામાં નિષ્ફળ જાય છે. આ ઘટના બાદ વૈશ્વિક સ્તરે આરોગ્ય ક્ષેત્રે AI ના ઉપયોગ અને તેની મર્યાદાઓ પર નવી ચર્ચા છેડાઈ ગઈ છે.
