ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് രംഗത്തെ സുരക്ഷാ പ്രവർത്തനങ്ങളിൽ നിർണായക പങ്കുവഹിച്ചിരുന്ന ഡേവിഡ് റോബിൻസൺ ഓപ്പൺഎഐയിൽ നിന്ന് രാജിവച്ചു. ഏകദേശം മൂന്നര വർഷം കമ്പനിയിൽ പ്രവർത്തിച്ച അദ്ദേഹം, ഓപ്പൺഎഐയുടെ AI വികസനത്തിലെ വേഗതയും സുരക്ഷാ സമീപനവും സംബന്ധിച്ച് ഗുരുതര ആശങ്കകൾ ഉന്നയിച്ചാണ് രാജിക്ക് പിന്നാലെ പരസ്യമായി രംഗത്തെത്തിയത്.

റോബിൻസൺ ഓപ്പൺഎഐയുടെ പ്രധാന മോഡൽ റിലീസുകൾക്കൊപ്പമുള്ള സേഫ്റ്റി റിപ്പോർട്ടുകളുടെ തയ്യാറാക്കലിന് നേതൃത്വം നൽകിയ വ്യക്തിയാണ്. കമ്പനിയുടെ Preparedness Framework തയ്യാറാക്കുന്നതിലും അദ്ദേഹം പ്രധാന പങ്കുവഹിച്ചു. കൂടാതെ 12 ഫ്രോണ്ടിയർ മോഡൽ ലോഞ്ചുകളുമായി ബന്ധപ്പെട്ട സുരക്ഷാ റിപ്പോർട്ടുകളുടെ മേൽനോട്ടവും നിർവഹിച്ചിരുന്നതായി അദ്ദേഹം തന്നെ വ്യക്തമാക്കി.

രാജിക്ക് പിന്നാലെ The Atlantic-ൽ പ്രസിദ്ധീകരിച്ച ലേഖനത്തിൽ ഓപ്പൺഎഐ ഉൾപ്പെടെയുള്ള AI കമ്പനികൾ സാങ്കേതികവിദ്യ വികസിപ്പിക്കുന്നതിൽ ആവശ്യമായത്ര ജാഗ്രത പുലർത്തുന്നില്ലെന്ന് റോബിൻസൺ വിമർശിച്ചു. പ്രശ്നം സാങ്കേതിക നിയമങ്ങളുടെയോ നിയന്ത്രണങ്ങളുടെയോ മാത്രം കാര്യമല്ലെന്നും, AI വ്യവസായത്തിന്റെ പ്രവർത്തനസംസ്കാരത്തിൽ തന്നെ മാറ്റം ആവശ്യമാണ് എന്നുമാണ് അദ്ദേഹത്തിന്റെ നിലപാട്.

AI കമ്പനികൾ വളരെ വേഗത്തിൽ പുതിയ മോഡലുകൾ പുറത്തിറക്കുകയും, പ്രശ്നങ്ങൾ സംഭവിച്ചശേഷം സുരക്ഷാ സംവിധാനങ്ങൾ മെച്ചപ്പെടുത്തുകയും ചെയ്യുന്ന “iterative deployment” രീതിയെ റോബിൻസൺ ചോദ്യം ചെയ്തു. കൂടുതൽ ശക്തമായ AI സംവിധാനങ്ങൾ വികസിക്കുന്ന സാഹചര്യത്തിൽ ഇത്തരത്തിലുള്ള പരീക്ഷണ-പിശക് സമീപനം മതിയാകില്ലെന്നാണ് അദ്ദേഹത്തിന്റെ വാദം.

വിമാനയാത്ര, ആണവോർജ മേഖലകൾ തുടങ്ങിയ ഉയർന്ന അപകടസാധ്യതയുള്ള വ്യവസായങ്ങളിൽ ഉപയോഗിക്കുന്നതുപോലെ പലതട്ടുകളുള്ള സുരക്ഷാ സംവിധാനങ്ങളും മുൻകരുതലുകളും AI വികസനത്തിലും വേണമെന്ന് റോബിൻസൺ അഭിപ്രായപ്പെട്ടു. മനുഷ്യരുടെ ചെറിയ പിഴവുകൾ പോലും വലിയ പ്രത്യാഘാതങ്ങളിലേക്ക് നയിക്കാതിരിക്കാനുള്ള സംവിധാനങ്ങൾ AI കമ്പനികൾക്ക് ആവശ്യമാണ് എന്നാണ് അദ്ദേഹം പറയുന്നത്.

അടുത്തിടെ AI മോഡലുകളുടെ സുരക്ഷാ സംവിധാനങ്ങൾ പരാജയപ്പെട്ട ചില സംഭവങ്ങളും അദ്ദേഹം ചൂണ്ടിക്കാട്ടി. ഓപ്പൺഎഐയുടെ AI ഏജന്റുകൾ Hugging Face-ന്റെ സംവിധാനങ്ങളിലേക്ക് അനുമതിയില്ലാതെ പ്രവേശിച്ച സംഭവവും മറ്റ് സുരക്ഷാ വീഴ്ചകളും AI വികസനത്തിന്റെ വേഗതയുമായി ബന്ധപ്പെട്ട ആശങ്കകൾക്ക് ഉദാഹരണങ്ങളാണെന്ന് റോബിൻസൺ വിലയിരുത്തി.

അതേസമയം, റോബിൻസന്റെ വിമർശനങ്ങൾക്ക് മറുപടിയായി ഓപ്പൺഎഐ സുരക്ഷയ്ക്ക് ആവശ്യമായ മുൻഗണന നൽകുന്നുണ്ടെന്ന് വ്യക്തമാക്കി. മോഡലുകളുടെ കഴിവുകൾ സുരക്ഷിതമായി നിയന്ത്രിക്കാനും സുരക്ഷാ പ്രശ്നങ്ങൾ കണ്ടെത്തുന്നതിനായി പുറത്തുനിന്നുള്ള വിലയിരുത്തലുകളും തത്സമയ നിരീക്ഷണ സംവിധാനങ്ങളും ശക്തിപ്പെടുത്താനും കമ്പനി നടപടികൾ സ്വീകരിക്കുന്നതായി അറിയിച്ചു. ആവശ്യമായ സാഹചര്യങ്ങളിൽ പരിശീലനം നിർത്തുകയോ മോഡൽ പുറത്തിറക്കുന്നത് വൈകിപ്പിക്കുകയോ ചെയ്യുമെന്നും കമ്പനി വ്യക്തമാക്കി.

റോബിൻസന്റെ രാജി, AI മേഖലയിലെ വേഗത്തിലുള്ള സാങ്കേതിക പുരോഗതിയും സുരക്ഷാ മുൻകരുതലുകളും തമ്മിലുള്ള സന്തുലിതാവസ്ഥയെക്കുറിച്ചുള്ള ചർച്ചയ്ക്ക് വീണ്ടും ശക്തി നൽകിയിരിക്കുകയാണ്.