AI સેલ્ફ-રેપ્લિકેશન: મશીનો હવે પોતાની નકલ જાતે કરી શકે છે, સુરક્ષા એજન્સીઓના રિપોર્ટમાં ચોંકાવનારો ખુલાસો
અગ્રણી AI સલામતી નિષ્ણાતોએ આજે એક કડક ચેતવણી જારી કરીને ભારપૂર્વક જણાવ્યું હતું કે ઝડપથી આગળ વધી રહેલા કૃત્રિમ બુદ્ધિમત્તાથી ઉભા થતા ગંભીર જોખમો માટે તૈયાર થવા માટે વિશ્વ પાસે પૂરતો સમય નહીં હોય. યુકેની એડવાન્સ્ડ રિસર્ચ એન્ડ ઇન્વેન્શન એજન્સી (ARIA) ના પ્રોગ્રામ ડિરેક્ટર ડેવિડ ડેલરીમ્પલે ચેતવણી આપી હતી કે માનવ સભ્યતા હાલમાં એક મોટા સંક્રમણમાં “સ્લીપવોકિંગ” કરી રહી છે જે વૈશ્વિક સુરક્ષા અને અર્થતંત્રોને અસ્થિર કરી શકે છે.
ગતિ કટોકટી
યુકેની AI સુરક્ષા સંસ્થા (AISI) ના તાજેતરના ડેટા અનુસાર, AI ક્ષમતાઓ તમામ ક્ષેત્રોમાં “ઝડપથી સુધરી રહી છે”, ચોક્કસ ક્ષેત્રોમાં કામગીરી હવે દર આઠ મહિને બમણી થઈ રહી છે. અગ્રણી મોડેલોએ નિપુણતામાં મોટો કૂદકો લગાવ્યો છે, “એપ્રેન્ટિસ-લેવલ” કાર્યો 50% સમય સફળતાપૂર્વક પૂર્ણ કર્યા છે, જે એક વર્ષ પહેલા માત્ર 10% હતા.
ડેલરીમ્પલ પ્રોજેક્ટ કરે છે કે 2026 ના અંત સુધીમાં, AI સિસ્ટમ્સ આખા દિવસના સંશોધન અને વિકાસ કાર્યને સ્વચાલિત કરી શકશે. આ સીમાચિહ્નરૂપ ટેકનોલોજીને તેના પોતાના ગણિત અને કમ્પ્યુટર વિજ્ઞાન તત્વોને સ્વ-સુધારવા દેશે, જે વધુ ઝડપી પ્રવેગકનો પ્રતિસાદ લૂપ ટ્રિગર કરશે. તેમનો અંદાજ છે કે પાંચ વર્ષમાં, મોટાભાગના આર્થિક રીતે મૂલ્યવાન કાર્યો ઉચ્ચ ગુણવત્તાવાળા અને માનવો કરતા ઓછા ખર્ચે મશીનો દ્વારા કરવામાં આવશે.
સ્વાયત્ત જોખમો અને સ્વ-પ્રતિકૃતિ
ચેતવણી સંબંધિત તકનીકી મૂલ્યાંકનોની રાહ પર આવે છે. તાજેતરના AISI પરીક્ષણો દર્શાવે છે કે સૌથી અદ્યતન સિસ્ટમો હવે સ્વાયત્ત રીતે જટિલ કાર્યો પૂર્ણ કરી શકે છે જે માનવ નિષ્ણાતને એક કલાકથી વધુ સમય લેશે. વધુમાં, સ્વ-પ્રતિકૃતિ પર ધ્યાન કેન્દ્રિત કરતા પરીક્ષણો – નિયંત્રણથી બચવા માટે ઉપકરણો પર પોતાની નકલો ફેલાવવાની સિસ્ટમની ક્ષમતા – દર્શાવે છે કે બે અત્યાધુનિક મોડેલોએ 60% થી વધુ સફળતા દર પ્રાપ્ત કર્યો છે. જ્યારે આ પરિણામો “વાસ્તવિક-વિશ્વ” પરિસ્થિતિઓમાં હજુ સુધી સફળ ન થઈ શકે, નિષ્ણાતો અંતર્ગત ક્ષમતાને મુખ્ય સલામતી થ્રેશોલ્ડ તરીકે જુએ છે.
તૈયારી વિનાનો ઉદ્યોગ
આ ચેતવણીઓ ઉનાળા 2025 AI સલામતી સૂચકાંકના તારણોને પ્રતિબિંબિત કરે છે, જેણે જાહેર કર્યું હતું કે ઉદ્યોગ મૂળભૂત રીતે તેના પોતાના લક્ષ્યો માટે તૈયાર નથી. સૂચકાંકમાં જાણવા મળ્યું છે કે જ્યારે કંપનીઓ કૃત્રિમ સામાન્ય બુદ્ધિ (AGI) તરફ દોડી રહી છે, ત્યારે અસ્તિત્વ સલામતી આયોજનમાં કોઈએ ‘D’ થી ઉપર સ્કોર કર્યો નથી.
એન્થ્રોપિક હાલમાં C+ પર સૌથી વધુ એકંદર સલામતી ગ્રેડ ધરાવે છે, ત્યારબાદ OpenAI C સાથે આવે છે. આ અગ્રણી સ્થાનો હોવા છતાં, ઇન્ડેક્સે મહત્વપૂર્ણ ગાબડા નોંધ્યા છે:
• વ્હિસલબ્લોઇંગ પારદર્શિતા નબળી રહે છે, ફક્ત OpenAI સંપૂર્ણ નીતિ પ્રકાશિત કરે છે.
• સલામતી પરીક્ષણોમાં પદ્ધતિસરનું તર્ક ઘણીવાર ગેરહાજર રહે છે, જેના કારણે ખતરનાક ક્ષમતાઓ સમયસર શોધી કાઢવામાં આવી રહી છે તેવો ઓછો વિશ્વાસ રહે છે.
• ચીની કંપનીઓ Zhipu AI અને DeepSeek ને નિષ્ફળ ગ્રેડ મળ્યા છે, જોકે અહેવાલમાં નોંધ્યું છે કે તેઓ અલગ અલગ નિયમનકારી ધોરણો અને સ્થાનિક જરૂરિયાતો હેઠળ કાર્ય કરે છે.
ધ પાથ ફોરવર્ડ
ડેલરીમ્પલ દલીલ કરે છે કે સલામત AI વર્તણૂકની ખાતરી આપવા માટે જરૂરી વિજ્ઞાન ટેકનોલોજીનો ઉપયોગ થાય તે પહેલાં આવવાની શક્યતા નથી, તેથી એકમાત્ર વાસ્તવિક ટૂંકા ગાળાનો વિકલ્પ શમન અને નિયંત્રણ છે. આમાં “કમ્પ્યુટ કેપ્સ”, હાર્ડવેર-આધારિત રિમોટ એન્ફોર્સમેન્ટ અને મજબૂત તૃતીય-પક્ષ ઓડિટિંગનો અમલ શામેલ છે.
“આપણી સભ્યતા પર નિયંત્રણ જાળવવા માટે આપણે જે ડોમેન્સમાં પ્રભુત્વ મેળવવાની જરૂર છે તેમાં આપણે સ્પર્ધાત્મક રહીશું,” ડેલરીમ્પલે ચેતવણી આપી, અદ્યતન AI વર્તણૂકોને સમજવા અને નિયંત્રિત કરવા પર કેન્દ્રિત તકનીકી કાર્યમાં મોટા પાયે વધારો કરવા વિનંતી કરી.
