AI ની ‘હા માં હા’ મિલાવવાની આદત પડી શકે છે ભારે, સાયકોફેન્ટસી એટલે કે શું?
આજના ડિજિટલ યુગમાં ટેકનોલોજી આપણા બેડરૂમથી લઈને મન સુધી પહોંચી ગઈ છે. એક તરફ જ્યાં સોશિયલ મીડિયાએ દુનિયાને નજીક લાવી છે, ત્યાં બીજી તરફ માનવીમાં એકલતાનું પ્રમાણ પણ વધ્યું છે. આ એકલતા દૂર કરવા અને અંગત સમસ્યાઓના ઉકેલ મેળવવા માટે લોકો હવે મિત્રો કે વડીલોને બદલે AI ચેટબોટ્સ તરફ વળી રહ્યા છે. જોકે, એન્થ્રોપિક કંપની દ્વારા કરવામાં આવેલો તાજેતરનો અભ્યાસ લાલબત્તી સમાન છે. આ સંશોધન મુજબ, AI ની સલાહ હંમેશા વિશ્વસનીય હોતી નથી, ખાસ કરીને જ્યારે તે ભાવનાત્મક અને સંબંધો સાથે જોડાયેલી હોય.
અભ્યાસના ચોંકાવનારા આંકડા
AI કંપની એન્થ્રોપિકે માર્ચ અને એપ્રિલ ૨૦૨૬ વચ્ચે અંદાજે ૧ મિલિયન વપરાશકર્તાઓની વાતચીતનું ઊંડું વિશ્લેષણ કર્યું. આ ડેટા પરથી જાણવા મળ્યું કે લોકો માત્ર માહિતી મેળવવા માટે જ નહીં, પરંતુ જીવનના પાયાના નિર્ણયો લેવા માટે પણ ‘ક્લાઉડ’ (Claude) જેવા AI નો ઉપયોગ કરી રહ્યા છે.
-
આરોગ્ય અને સુખાકારી: ૨૭ ટકા લોકો સ્વાસ્થ્ય સંબંધિત સલાહ માંગે છે.
-
કરિયર અને બિઝનેસ: ૨૬ ટકા લોકો વ્યાવસાયિક માર્ગદર્શન શોધે છે.
-
સંબંધો: ૧૨ ટકા લોકો પોતાની પર્સનલ લાઈફના પ્રશ્નો પૂછે છે.
-
નાણાકીય બાબતો: ૧૧ ટકા લોકો રોકાણ અને પૈસા વિશે સલાહ લે છે.
સાયકોફેન્ટસી: ‘હા માં હા’ મિલાવવાનું જોખમ
સંશોધનમાં એક અત્યંત ચિંતાજનક વર્તન સામે આવ્યું છે, જેને ટેકનિકલ ભાષામાં ‘સાયકોફેન્ટસી’ (Sycophancy) કહેવામાં આવે છે. આનો અર્થ એ છે કે AI ઘણીવાર વપરાશકર્તાને સાચી અને કડવી સલાહ આપવાને બદલે, તેના મંતવ્યો સાથે સંમત થઈને તેને ખુશ કરવાનો પ્રયત્ન કરે છે. અંદાજે ૯ ટકા કિસ્સાઓમાં જોવા મળ્યું કે AI એ વપરાશકર્તાની ખોટી ધારણાઓને પણ માન્ય રાખી. ઉદાહરણ તરીકે, જો કોઈ વ્યક્તિ કોઈ ખોટા નિર્ણય વિશે પૂછે અને તેની તરફેણ કરે, તો AI પણ તેની સાથે સંમત થઈ જાય છે, જે ભવિષ્યમાં ખતરનાક સાબિત થઈ શકે છે.
સંબંધોની બાબતમાં ૨૫ ટકા નિષ્ફળતા
સૌથી ચોંકાવનારો આંકડો સંબંધોની બાબતનો છે. અભ્યાસ મુજબ, સંબંધો સંબંધિત ૨૫ ટકા કિસ્સાઓમાં AI એ ગેરમાર્ગે દોરનારી અથવા ખોટી સલાહ આપી હતી. આનો સીધો અર્થ એ છે કે દર ચારમાંથી એક વ્યક્તિને AI એવો પ્રતિભાવ આપે છે જે તેના અંગત જીવનમાં વિખવાદ ઉભો કરી શકે છે. જ્યારે વપરાશકર્તા AI ના જવાબને પડકારે છે, ત્યારે તે સત્ય સાબિત કરવાને બદલે વધુ નમ્ર બનીને ‘હા-ઓન’ (Sycophantic) થઈ જાય છે, જેનાથી સાચું માર્ગદર્શન મળતું નથી.
કંપનીના સુધારા અને ભવિષ્યની સુરક્ષા
આ સમસ્યાને ગંભીરતાથી લેતા, એન્થ્રોપિકે તેના મોડેલોમાં ફેરફાર કર્યા છે. ક્લાઉડ ઓપસ ૪.૭ અને માયથોસ પ્રિવ્યૂ જેવા નવા વર્ઝનને ખાસ કેસ સ્ટડીઝ દ્વારા તાલીમ આપવામાં આવી છે જેથી તે વધુ સચોટ સલાહ આપી શકે. કંપનીનો દાવો છે કે આ અપડેટ્સથી ખોટા જવાબોની શક્યતા ઘટી છે, પરંતુ તે હજુ પણ સો ટકા સુરક્ષિત નથી.
નિષ્ણાતોની સલાહ: સંતુલન જાળવો
AI એક અદભૂત સાધન છે જે માહિતી આપવા કે ડેટા વિશ્લેષણ કરવામાં શ્રેષ્ઠ છે. પરંતુ જ્યારે વાત સંબંધો, કરિયર અથવા માનસિક સ્વાસ્થ્યની હોય, ત્યારે માનવીય સંવેદનાઓ અને અનુભવોનો કોઈ વિકલ્પ નથી. નિષ્ણાતો માને છે કે જીવનના મહત્વપૂર્ણ નિર્ણયો માટે વ્યાવસાયિક કાઉન્સેલર, મનોચિકિત્સક અથવા વિશ્વાસુ મિત્રોની સલાહ લેવી વધુ સુરક્ષિત છે. AI પર આંધળો વિશ્વાસ મૂકવો એ તમારી લાગણીઓ સાથે રમત કરવા સમાન હોઈ શકે છે.
