Anthropic kompaniýasynyň ýolbaşçysy Dario Amodei emeli aň kompaniýalaryny iň kuwwatly modelleriň ösüş depginini gyssagly haýallatmaga çagyrdy. Onuň pikiriçe, howpsuzlyk çäreleri neýroulgam mümkinçilikleriniň ösüş depgininiň yzyndan ýetişenok.
Amodeiniň bu çagyryşy emeli aňyň howply maksatlar üçin ulanyljak bolunmagy bilen bagly ýagdaýlaryň ýüze çykýan döwrüne gabat geldi.
«EA-nyň mümkinçilikleriniň barha tiz ösýändigini göz öňünde tutup, ýakyn 6–12 aýyň dowamynda şeýle toparyň internetiň ähli ulgamyny üznüksiz işleýän botnetiň kömegi bilen eýeläp bilen, bu-da ýüzlerçe milliard dollarlyk zyýan ýetirer diýip alada edýärin. EA zerur gorag çäreleri bolmazdan has-da kuwwatlanýan bolsa, onuň ýetirip biljek zyýanynyň möçberi-de şonça artar» diýip, Amodei öz blogynda ýazdy.
Anthropic-iň ýolbaşçysy bu ugurda üç basgançakly meýilnama teklip etdi. Ilki bilen, EA kompaniýalary howpsuzlyk çärelerini barlamak we ýüze çykýan hadysalary derňemek üçin öz ulgamlaryna hemişelik gözegçilik etmäge mümkinçilik bermeli. Soňra demokratik ýurtlarda ýerleşýän kompaniýalar howpsuzlygyň umumy standartlary we EA-ny gözegçiliksiz ösdürmegiň öňüni alýan çäklendirmeler barada ylalaşmaly. Üçünji basgançakda bolsa Hytaý we beýleki ýurtlar bilen birlikde halkara derejesinde hyzmatdaşlygy ýola goýmak göz öňünde tutulýar.
Emeli aňyň howply ulanylmagy bilen bagly aladalalar eýýäm ýüze çykan birnäçe ýagdaý bilen has-da güýçlendi. Anthropic kompaniýasynyň sentýabr hasabatynda Claude modelini biologik ýaraglaryň döredilmegine ýardam edip biljek işler üçin ulanmaga synanyşylan bäş waka gürrüň berilýär. Olaryň arasynda guş grippi boýunça tejribeleri meýilleşdirmek we modeli çikungunýa wirusy bilen işlemek üçin ulanmak synanyşyklary hem bar. Anthropic bu işlere gatnaşan hasaplary ýapandygyny we modelleriň goragyny güýçlendirendigini habar berdi.
OpenAI kompaniýasynyň hünärmenleri hem ozal şuňa meňzeş aladalary bildiripdiler. Kompaniýanyň baş ylmy işgäri Ýakub Pahoski hiç kimiňem emeli aňyň uzak wagtlap şeýle çalt ösmeginiň netijelerine taýýar däldigini aýtdy. OpenAI hem emeli aňyň howply maksatlar üçin ulanylmagynyň öňüni almak üçin «Astra» taslamasynyň ösüşini wagtlaýyn haýalladandygyny hem habar berdi.
OpenAI-yň baş direktory Sem Altman hem ösüş depginini haýallatmak baradaky pikiri goldap, bu meseläniň kompaniýanyň içinde işjeň ara alnyp maslahatlaşylýandygyny aýtdy. Onuň mydamaky bäsdeşi, SpaceXAI kompaniýasynyň ýolbaşçysy Ilon Mask hem çetde galman, özüniň X sosial ulgamynda: «Dario dogry aýdýar» diýip belledi.
