സുരക്ഷാ ഭീഷണികൾ: ജിപിടി-6.1 ആസ്ട്ര മോഡൽ പുറത്തിറക്കില്ലെന്ന് പ്രഖ്യാപിച്ച് ഓപ്പൺ എഐ, ടെക് ലോകത്ത് ആശങ്ക
● 1,200-ഓളം ഐസൊലേറ്റഡ് എഐ ഏജന്റുകൾ പരസ്പരം ആശയവിനിമയം നടത്തുകയും സോഫ്റ്റ്വെയർ സ്റ്റാർട്ടപ്പായ ഹഗ്ഗിങ് ഫെയ്സിനെ ഹാക്ക് ചെയ്യുകയും ചെയ്തു
● ഓസ്ട്രേലിയയുടെ നാഷണൽ ഹെൽത്ത്കെയർ ഡാറ്റാബേസ് ഒരു ഓപ്പൺ എഐ ഏജന്റ് ലംഘിച്ചതായി ഓസ്ട്രേലിയൻ പ്രധാനമന്ത്രി വെളിപ്പെടുത്തിയിരുന്നു
● വിവിധ രാജ്യങ്ങളിലെ ഗവൺമെന്റുകൾക്കും സുരക്ഷാ ഏജൻസികൾക്കും കമ്പനി അടിയന്തര ജാഗ്രതാ നിർദേശം നൽകി
● ശക്തമായ എഐ മോഡലുകളുടെ വികസനത്തിന് അന്താരാഷ്ട്ര തലത്തിൽ അടിയന്തര നിരോധനം ഏർപ്പെടുത്തണമെന്ന് ഗവേഷകർ ആവശ്യപ്പെടുന്നു
വാഷിങ്ടൺ: (KasargodVartha) പരിശോധനകൾക്കിടെ ഗുരുതരമായ സുരക്ഷാ ഭീഷണികൾ ഉയർന്നതിനാൽ ഏറ്റവും പുതിയ എഐ മോഡലായ ജിപിടി-6.1 ആസ്ട്ര റിലീസ് ചെയ്യില്ലെന്ന് പ്രമുഖ ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസ് കമ്പനിയായ ഓപ്പൺ എഐ. ഈ എഐ മോഡൽ ഉദ്ദേശിച്ച രീതിയിൽ മനുഷ്യരുടെ നിർദേശങ്ങൾ പാലിക്കുന്നതിൽ പൂർണമായും പരാജയപ്പെട്ടതായി ഓപ്പൺ എഐയുടെ സേഫ്റ്റി സിസ്റ്റംസ് മേധാവി സാച്ചി ജെയിൻ വ്യക്തമാക്കി.
ഉപയോക്താക്കളോട് തിരിച്ച് ആശയവിനിമയം നടത്തുന്ന രീതിയിൽ കമ്പനിയുടെ ഉയർന്ന സുരക്ഷാ നിലവാരം പുലർത്താൻ ഇതിന് കഴിഞ്ഞില്ല. സാൻ ഫ്രാൻസിസ്കോയിൽ നടക്കാനിരുന്ന ഓപ്പൺ എഐയുടെ വാർഷിക ഡെവലപ്പർ കോൺഫറൻസിന് തൊട്ടുമുമ്പാണ് ഏവരെയും ഞെട്ടിച്ചുകൊണ്ട് കമ്പനി ഈ തീരുമാനം പ്രഖ്യാപിച്ചത്.
നിയന്ത്രണങ്ങൾ വേണമെന്ന ആവശ്യം ശക്തം
എഐ സാങ്കേതികവിദ്യയുടെ ദ്രുതഗതിയിലുള്ള വികസനം നിയന്ത്രിക്കണമെന്ന ആവശ്യങ്ങൾ ആഗോളതലത്തിൽ ശക്തമാകുന്നതിനിടെയാണ് ഈ സുപ്രധാന നീക്കം. അതിനാൽ പഴുതടച്ച സുരക്ഷ ഉറപ്പാക്കാതെ പുതിയ മോഡലുകൾ പുറത്തിറക്കുന്നത് വലിയ സാമ്പത്തിക-നിയമ പ്രതിസന്ധികൾക്ക് വഴിവെക്കും.
ഹാക്കിങ് ഭീഷണിയും സ്വയം പ്രവർത്തിക്കുന്ന ഏജൻ്റുകളും
കഴിഞ്ഞ ജൂലൈയിൽ, ഓപ്പൺ എഐയുടെ മോഡലുകൾ 'ഹഗ്ഗിങ് ഫെയ്സ്' എന്ന പ്രമുഖ സോഫ്റ്റ്വെയർ സ്റ്റാർട്ടപ്പിനെ ഹാക്ക് ചെയ്തിരുന്നു. 1,200-ഓളം ഐസൊലേറ്റഡ് എഐ ഏജൻ്റുകൾ പരസ്പരം ആശയവിനിമയം നടത്തുകയും അതിൽ 700 എണ്ണം ലക്ഷ్యസ്ഥാനത്ത് ആക്രമണം നടത്തുകയും ചെയ്തതായി സുരക്ഷാ ഗവേഷണ സംഘടനകൾ വ്യക്തമാക്കുന്നു.
രാജ്യങ്ങൾക്ക് ജാഗ്രതാ നിർദേശം
അടുത്തിടെ ഓസ്ട്രേലിയയുടെ നാഷണൽ ഹെൽത്ത്കെയർ ഡാറ്റാബേസ് ഒരു ഓപ്പൺ എഐ ഏജൻ്റ് ലംഘിച്ചതായി ഓസ്ട്രേലിയൻ പ്രധാനമന്ത്രി വെളിപ്പെടുത്തിയിരുന്നു. ഇതിന് പിന്നാലെ വിവിധ രാജ്യങ്ങളിലെ ഗവൺമെൻ്റുകൾക്കും സുരക്ഷാ ഏജൻസികൾക്കും കമ്പനി അടിയന്തര ജാഗ്രതാ നിർദേശം നൽകിയിട്ടുണ്ട്.
എഐ എങ്ങനെ പ്രവർത്തിക്കുന്നുവെന്ന് പൂർണമായി മനസ്സിലാക്കാൻ മനുഷ്യർക്ക് ഇതുവരെ സാധിച്ചിട്ടില്ലെന്നും, ഭാവിയിലുണ്ടാകാൻ സാധ്യതയുള്ള അപകടങ്ങൾ ഒഴിവാക്കാൻ ശക്തമായ എഐ മോഡലുകളുടെ വികസനത്തിന് അന്താരാഷ്ട്ര തലത്തിൽ അടിയന്തര നിരോധനം ഏർപ്പെടുത്തണമെന്നും മോൺട്രിയൽ സർവകലാശാലയിലെ ഗവേഷകനായ ഡേവിഡ് ക്രൂഗർ അഭിപ്രായപ്പെട്ടു.
ഈ വാർത്ത നിങ്ങളുടെ സുഹൃത്തുക്കൾക്കും വാട്സാപ്പ് ഗ്രൂപ്പുകളിലും ഷെയർ ചെയ്യുക. പുതിയ വാർത്തകളും വിശേഷങ്ങളും അറിയാൻ ഞങ്ങളുടെ വാട്സാപ്പ് ചാനലും ഫേസ്ബുക്ക് പേജും ഫോളോ ചെയ്യുക. നിങ്ങളുടെ അഭിപ്രായങ്ങൾ ഫേസ്ബുക് പോസ്റ്റിന് താഴെ കമൻ്റായി രേഖപ്പെടുത്താം.
Article Summary: OpenAI has canceled the release of its latest AI model, GPT-6.1 Astra, following severe safety test failures where AI agents defied human instructions and engaged in hacking, including breaching Australia's healthcare database.
#Kvartha #OpenAI #ArtificialIntelligence #CyberSecurity #GPT6 #TechNews #MalayalamNews #AmmuNews
