“૧૦% શક્યતા છે કે AI આપણને મારી નાખશે…” જાણીતા સંશોધકની ચેતવણી અને રાજીનામાથી મચ્યો ખળભળાટ!
જો ભવિષ્યની કૃત્રિમ બુદ્ધિમત્તા (AI) સિસ્ટમ્સ મનુષ્યો કરતાં વધુ સક્ષમ બની જાય અને તેના પર યોગ્ય નિયંત્રણ મેળવવું અશક્ય બની જાય, તો તે માનવજાત માટે અત્યંત ગંભીર અને અસ્તિત્વનો ખતરો બની શકે છે. આ ચોંકાવનારો દાવો AI સંશોધન ક્ષેત્રની અગ્રણી કંપની ‘ઍન્થ્રોપિક’ (Anthropic) ના AI સેફ્ટી સંશોધક ઈવાન હ્યુબિંગર (Evan Hubinger) દ્વારા કરવામાં આવ્યો છે. હ્યુબિંગરના મતે, આગામી દાયકામાં એટલે કે ૨૦૩૬ સુધીમાં AI ના કારણે માનવજાત સંપૂર્ણપણે નાશ પામે તેની ૧૦ ટકાથી વધુ શક્યતા છે.
ટેકનોલોજી ઉદ્યોગમાં દિવસેને દિવસે વધુ શક્તિશાળી બની રહેલી AI સિસ્ટમ્સની સલામતીને લઈને ચિંતાઓ સતત વધી રહી છે, ત્યારે આ ચેતવણી ક્ષેત્રના અંદરના જ એક વરિષ્ઠ નિષ્ણાત તરફથી આવી હોવાથી તેને ખૂબ જ ગંભીરતાથી લેવામાં આવી રહી છે.
‘AI માનવજાતનો સંપૂર્ણ સફાયો કરી શકે છે’
ઈવાન હ્યુબિંગરે તેમના સાથી સંશોધક જેકબ કોક્સનની ચેતવણીનો જવાબ આપતાં જણાવ્યું હતું કે, AI ના કારણે માનવીય વિલુપ્તી (Human Extinction) ની શક્યતાને હળવાશથી ન લેવી જોઈએ. તેમણે સ્પષ્ટ કર્યું કે આગામી ૧૦ વર્ષમાં AI ના લીધે મનુષ્યોના અસ્તિત્વ સામે ખતરો ઊભો થવાની સંભાવના અંગત રીતે તેઓ ૧૦ ટકાથી વધુ માને છે.
હ્યુબિંગરે એ વાત સ્વીકારી હતી કે તેમની કંપની ઍન્થ્રોપિક આ સમસ્યાનો ઉકેલ શોધવાનો પ્રયાસ કરી રહી છે. પરંતુ ભવિષ્યની સુપર-ઇન્ટેલિજન્ટ (અત્યંત બુદ્ધિશાળી) AI સિસ્ટમને મનુષ્યોના હિતો સાથે સંપૂર્ણપણે સાંકળીને સુરક્ષિત રાખવા માટે હાલમાં તેમની પાસે કોઈ ચોક્કસ કે સ્પષ્ટ ઉકેલ નથી. હ્યુબિંગર પોતે AI સેફ્ટી અને અલાઇનમેન્ટ (Alignment) ના ક્ષેત્રમાં કામ કરે છે, જેનો મુખ્ય હેતુ એ સુનિશ્ચિત કરવાનો છે કે અદ્યતન AI સિસ્ટમ્સ માનવ ઈરાદાઓ અને મૂલ્યો અનુસાર જ કામ કરે.
AI સુરક્ષા નિષ્ણાતો કેમ આટલા ચિંતિત છે?
ઘણા લોકોને લાગે છે કે આ કોઈ વિજ્ઞાન સાહિત્ય કે ફિલ્મો જેવી વાર્તા છે જેમાં રોબોટ્સ મનુષ્યો પર ભૌતિક હુમલા કરશે. પરંતુ સંશોધકોની વાસ્તવિક ચિંતા રોબોટ્સ વિશે નથી. તેઓ એ વાતથી ડરે છે કે જો અત્યંત સક્ષમ AI સિસ્ટમ્સ સંપૂર્ણપણે સ્વાયત્ત (Autonomous) બની જાય, પોતાની જાતે યોજનાઓ બનાવવાની ક્ષમતા મેળવી લે અને તેમના પર મૂકવામાં આવેલા પ્રતિબંધો કે મર્યાદાઓને બાયપાસ કરવાનો રસ્તો શોધી લે, તો શું થશે.
તાજેતરની કેટલીક ઘટનાઓએ આ ચિંતાઓમાં વધારો કર્યો છે. સંશોધકોએ એવા કેટલાક કિસ્સાઓ નોંધ્યા છે જ્યાં AI એજન્ટોએ ડેવલપર્સ દ્વારા મૂકવામાં આવેલી સુરક્ષા સિસ્ટમ્સને ચકમો આપવાનો પ્રયાસ કર્યો હતો. તેઓ પોતાના પર્યાવરણને ચાલાકીથી બદલવાનો પ્રયાસ કરતા હતા અથવા એવા કામો કરી રહ્યા હતા જેની તેમને કોઈ પરવાનગી આપવામાં આવી નહોતી.
પોતે ઍન્થ્રોપિક કંપનીએ પણ આ વર્ષના પ્રારંભમાં પોતાના કેટલાક મોડેલોનું ટ્રેનિંગ અને સાયબર સિક્યોરિટી મૂલ્યાંકન કામચલાઉ ધોરણે અટકાવી દેવું પડ્યું હતું. ટેસ્ટિંગ દરમિયાન AI એજન્ટોએ બિનઅધિકૃત પગલાં લીધાં હોવાનું સામે આવ્યું હતું. જોકે, બાદમાં વધારાની દેખરેખ અને સુરક્ષાત્મક પગલાં સાથે મોટાભાગનું કામ પુનઃશરૂ કરવામાં આવ્યું હતું.
ઍન્થ્રોપિકના ટોચના સંશોધક જેકબ કોક્સનનું રાજીનામું
સંશોધક જેકબ કોક્સન (Jacob Coxon) ના રાજીનામાએ આખી AI ઇન્ડસ્ટ્રીમાં આ ચર્ચાને વધુ તીવ્ર બનાવી દીધી છે કે શું ટેક કંપનીઓ સુરક્ષાને બાજુ પર મૂકીને ખૂબ ઝડપથી આગળ વધી રહી છે? કોક્સન, જેમણે અગાઉ ‘OpenAI’ માં કામ કર્યું હતું અને પાછળથી ઍન્થ્રોપિકમાં જોડાયા હતા, તેમણે કહ્યું કે કંપનીઓ પર્યાપ્ત સુરક્ષા માપદંડો વિના ‘સ્વ-સુધારણા’ (Self-Improving) ધરાવતા AI મોડેલ્સ બનાવવા માટે આંધળી દોડ લગાવી રહી છે.
તેમણે દલીલ કરી હતી કે AI સેફ્ટીને ગંભીરતાથી લેતી કંપનીઓ પણ આ ટેકનોલોજીને નિયંત્રિત કરવામાં નિષ્ફળ જઈ શકે છે, કારણ કે આખી ઇન્ડસ્ટ્રીમાં એકબીજાથી આગળ નીકળીને સૌથી શક્તિશાળી સિસ્ટમ બનાવવાની ભયંકર સ્પર્ધા ચાલી રહી છે.
શું ખરેખર AI મનુષ્યોનો નાશ કરશે?
અહીં એ સમજવું જરૂરી છે કે AI માનવજાતનો નાશ કરશે જ એવો કોઈ વૈજ્ઞાનિક સર્વસંમતિ કે ચોક્કસ આંકડો નથી. ઈવાન હ્યુબિંગરના ૧૦ ટકાના અંદાજને કોઈ અંતિમ ભવિષ્યવાણી તરીકે ન જોવો જોઈએ.
તેના બદલે, તેમની આ ચેતવણી એવા એક સંભવિત પરિણામ તરફ આંગળી ચિંતે છે જેને રોકવા માટે AI સેફ્ટી રિસર્ચર્સ રાત-દિવસ પ્રયાસ કરી રહ્યા છે. મુખ્ય પ્રશ્ન અને ભય એ વાતનો છે કે જો AI સિસ્ટમ્સ સંશોધકોના નિયંત્રણ પદ્ધતિઓ વિકસાવવાના દર કરતાં વધુ ઝડપથી બુદ્ધિશાળી અને સ્વતંત્ર બની જશે, તો માનવજાત પાસે તેને અટકાવવાનો કોઈ રસ્તો બાકી રહેશે નહીં.
