Googleએ સ્વીકારી ભૂલ: બીમારીઓ પર AI આપી રહ્યું હતું જોખમી સલાહ, હવે સર્ચમાં નહીં દેખાય મેડિકલ સમરી
ટેકનોલોજી અને સ્વાસ્થ્ય વચ્ચેનું સંવેદનશીલ સંતુલન આજના ડિજિટલ યુગમાં, જ્યારે પણ આપણે અસ્વસ્થતા અનુભવીએ છીએ, ત્યારે આપણું પહેલું ડગલું ડોક્ટર પાસે જવાને બદલે ગૂગલ સર્ચ તરફ હોય છે. આ અનુભવને વધુ સારો અને ઝડપી બનાવવા માટે ગૂગલે તેનું ‘AI Overview’ ફીચર રજૂ કર્યું હતું. આ ફીચર યુઝરના પ્રશ્નોના સીધા અને ટૂંકા જવાબ (Summary) સર્ચ રિઝલ્ટની સૌથી ઉપર બતાવે છે. પરંતુ તાજેતરમાં એક ચોંકાવનારો કિસ્સો સામે આવ્યો છે, જેમાં ગૂગલે ચૂપચાપ પોતાની આ સર્વિસમાંથી કેટલાક મહત્વના મેડિકલ સલાહ આપતા સેક્શનને હટાવવા પડ્યા છે. તેનું કારણ એઆઈ (AI) દ્વારા આપવામાં આવતી ‘ખોટી અને ભ્રામક’ માહિતી છે.
શું છે આખો મામલો? ગૂગલે કેમ આ પગલું ભરવું પડ્યું?
ગૂગલે તેની ‘AI Overview’ સુવિધામાંથી લિવરની બીમારીઓ અને મેડિકલ ટેસ્ટ સાથે જોડાયેલા સર્ચ રિઝલ્ટને હટાવી દીધા છે. આ પગલું ત્યારે લેવામાં આવ્યું જ્યારે The Guardian અને Android Authority જેવી પ્રતિષ્ઠિત સંસ્થાઓની તપાસમાં જાણવા મળ્યું કે ગૂગલનું AI હેલ્થ સંબંધિત પ્રશ્નો પર જોખમી રીતે ખોટા જવાબો આપી રહ્યું હતું.
ખાસ કરીને, ‘લિવર ફંક્શન ટેસ્ટ’ (LFT) ને લઈને AI જે સારાંશ (Summary) બતાવી રહ્યું હતું, તે તબીબી દ્રષ્ટિએ ખોટું હોવાનું જણાયું હતું. ત્યારબાદ કંપનીએ કોઈ પણ મોટા શોરબકોર વગર લિવર સંબંધિત સંવેદનશીલ પ્રશ્નો પર AI સમરીને બ્લોક કરી દીધી છે.
કેમ જોખમી સાબિત થઈ રહી હતી AI ની સલાહ?
મેડિકલ સાયન્સ એક જટિલ ક્ષેત્ર છે જ્યાં દરેક દર્દીની સ્થિતિ અલગ હોય છે. AI ની નિષ્ફળતા પાછળ મુખ્યત્વે નીચે મુજબના કારણો સામે આવ્યા છે:
-
ખોટી રેફરન્સ રેન્જ: લિવર ફંક્શન ટેસ્ટના પરિણામો સમજાવતી વખતે AI એ એક એવી માનક મર્યાદા (Range) બતાવી જે દરેક વ્યક્તિ પર લાગુ પડતી નથી. ડોક્ટરોના મતે, ટેસ્ટ રિપોર્ટનું વિશ્લેષણ ઉંમર, લિંગ, જાતિ અને રાષ્ટ્રીયતાના આધારે બદલાય છે, જેની AI એ અવગણના કરી હતી.
-
લેબની અલગ-અલગ પદ્ધતિઓ: સમગ્ર વિશ્વની લેબોરેટરીઓમાં ટેસ્ટ કરવાની પદ્ધતિઓ અલગ-અલગ હોય છે. AI એ આ બારીક વિગતોને સમજ્યા વગર એક જ સામાન્ય જવાબ રજૂ કરી દીધો, જે કોઈ દર્દી માટે ભ્રામક હોઈ શકે છે.
-
ખોટો વિશ્વાસ (False Reassurance): સૌથી મોટું જોખમ એ હતું કે જો કોઈ ગંભીર રીતે બીમાર વ્યક્તિ AI ના ખોટા આંકડા જોઈને પોતાની જાતને સ્વસ્થ માની લે, તો તે વાસ્તવિક સારવારમાં વિલંબ કરી શકે છે. સ્વાસ્થ્યની બાબતમાં આવી બેદરકારી જીવલેણ સાબિત થઈ શકે છે.
AI Overview પર પહેલાથી જ હતો વિવાદ
AI Overview પર પહેલાથી જ હતો વિવાદઆ પહેલીવાર નથી જ્યારે ગૂગલનું AI વિવાદોમાં રહ્યું હોય. આ પહેલા પણ આ AI એ યુઝર્સને પિઝા પર ગુંદર (Glue) લગાડવાની અથવા દિવસમાં એક પથ્થર ખાવાની જેવી હાસ્યાસ્પદ અને જોખમી સલાહ આપી હતી. પરંતુ મેડિકલ સલાહનો મામલો તેનાથી ઘણો વધારે ગંભીર છે. સ્વાસ્થ્ય સંબંધિત માહિતીમાં એક નાની ટેકનિકલ ભૂલ પણ મોટા માનવીય સંકટનું કારણ બની શકે છે. આ જ કારણ છે કે નિષ્ણાતોએ ગૂગલની આ ઓટોમેટેડ સિસ્ટમ પર શરૂઆતથી જ વાંધો ઉઠાવ્યો હતો.
ગૂગલની સત્તાવાર પ્રતિક્રિયા
આ અહેવાલો જાહેર થયા પછી ગૂગલના એક પ્રવક્તાએ નિવેદન જારી કરીને સ્વીકાર્યું કે કેટલાક કિસ્સાઓમાં ફેરફાર જરૂરી હતા. તેમણે કહ્યું, “અમે અમારી નીતિઓ અને AI મોડલ્સની ચોકસાઈને સતત સુધારવા પર કામ કરી રહ્યા છીએ. અમે કેટલાક વિશિષ્ટ સ્વાસ્થ્ય વિષયો પર AI Overview ને હાલ પૂરતું હટાવી દીધું છે.” જોકે, કંપનીએ એમ પણ સ્પષ્ટ કર્યું કે સામાન્ય ગૂગલ સર્ચ (વેબસાઈટ લિંક્સ) દ્વારા માહિતી હજી પણ ઉપલબ્ધ રહેશે, બસ AI દ્વારા તૈયાર કરાયેલ ‘ઓટોમેટિક સારાંશ’ દેખાશે નહીં.
યુઝર્સ માટે પાઠ: ઇન્ટરનેટની સલાહ વિરુદ્ધ ડોક્ટરનો અભિપ્રાય
ગૂગલનું આ પગલું આપણા સૌ માટે એક મોટી ચેતવણી છે. AI ભલે ગમે તેટલું અદ્યતન થઈ જાય, તે એક અનુભવી ડોક્ટરનો વિકલ્પ ક્યારેય બની શકે નહીં.
-
ડોક્ટર જ સર્વોપરી છે: મેડિકલ રિપોર્ટનું સચોટ વિશ્લેષણ માત્ર એક સ્વાસ્થ્ય નિષ્ણાત જ કરી શકે છે.
-
AI પર અંધશ્રદ્ધા ન રાખો: AI માત્ર ઇન્ટરનેટ પર રહેલા ડેટાને પ્રોસેસ કરે છે, તેને બીમારીની ગંભીરતા અને દર્દીના પાછલા ઇતિહાસની સમજ હોતી નથી.
-
ચકાસણી જરૂરી છે: જો તમે ઇન્ટરનેટ પર કંઈક વાંચો છો, તો તેને અંતિમ સત્ય ન માનો અને હંમેશા કોઈ વિશ્વસનીય તબીબી સંસ્થાની વેબસાઈટ અથવા તમારા ડોક્ટર પાસેથી તેની પુષ્ટિ કરો.
નિષ્કર્ષ: સુરક્ષા સર્વોપરી
ગૂગલ દ્વારા પોતાની સર્વિસમાં કરવામાં આવેલો આ ફેરફાર એ દર્શાવે છે કે AI એ હજી ઘણો લાંબો રસ્તો કાપવાનો છે, ખાસ કરીને એવા ક્ષેત્રોમાં જ્યાં માનવ જીવ જોખમમાં હોય. ટેકનોલોજી આપણી મદદ માટે છે, પરંતુ જ્યારે વાત સ્વાસ્થ્યની હોય, ત્યારે માનવીય કુશળતા જ સૌથી ભરોસાપાત્ર સાથી છે. ભવિષ્યમાં ગૂગલ મેડિકલ વિષયો પર AI ના ઉપયોગ અંગે વધુ કડક નિયમો લાગુ કરી શકે છે.
