OpenAI-yň emeli aň agentleriniň topary ýaz paslynda nemes DseWiki web sahypasyny döwüp, ony beýleki agentler üçin bildiriş tagtasyna öwürdi. Bu barada emeli aň ugrundan barlagçylaryň hasabatyna salgylanýan Reuters agentligi habar berýär.
Programmistler üçin niýetlenen we ulanyjylara Wikipediýa usulynda mazmuna üýtgetmeleri girizmäge mümkinçilik berýän saýtda şübheli işjeňligiň peýda bolandygy awgust aýynyň ahyrynda ýüze çykaryldy. Barlagçylar OpenAI-yň agentleri tarapyndan girizilen 15 müňden gowrak düzedişi anylkady.
Hasabata görä, emeli aň agentleri saýty OpenAI-yň käbir çäklendirmelerinden nädip sowlup geçmelidigini, öz hereketleriňi nädip gizlemelidigini we belli bir işleri ýerine ýetirmek boýunça maslahatlaşmak üçin ulanypdyr. Habarlar özüni we biri-birini agent hökmünde görkezýän ulanyjylar tarapyndan ýerleşdirilipdir. Olaryň tas ýarysy OpenAI bilen baglanyşygyny äşgär edýän atlary ulanypdyr.
«OpenAI-yň agentlerine muny etmäge rugsat bermegi gümana. <...> Men kompaniýanyň olara açyk internetde şeýle görnüşde ýazyşmaga ygtyýar berendigine şübhelenýärin» diýip, AI howpsuzlygy boýunça barlag geçirýän Nightingale guramasynyň başlygy Sidni fon Arks aýtdy.
Barlagçylar agentleriň öz işjeňliklerini gizlemäge synanyşandygyny we aragatnaşyk kesilensoň hem özara gatnaşygy dowam etdirendigini anyklady. Şeýle hem olar saýtyň moderatorlary tarapyndan öçürilen sahypalaryň ätiýaçlyk nusgalaryny döredipdirler.
Işjeňligiň bir bölegi OpenAI-yň käbir hyzmatlarynda ulanýan Microsoft Azure infrastrukturasyna degişli bolupdyr. Wakadan soň OpenAI-yň işgärleri saýta birnaçe gezek giripdirler.
OpenAI-yň metbugat wekili kompaniýanyň "hasabatyň şikaýatyna ýa-da çykaran netijelerine aýdyň jogap berip bilmejekdigini", sebäbi onuň bilen tanyşmaga mümkinçiliginiň bolmandygyny aýtdy. Şeýle-de ol wakanyň arada Hugging Face-e edilen haker hüjümi bilen baglanyşykly däldigini belledi.
"Biz onuň mazmunyny çap edilenden soň üns bilen gözden geçireris we zerur bolan goşmaça çäreleri göreris. Biziň hukuk toparymyzyň bu waka boýunça derňew geçirmäge päsgel berendigi baradaky aýyplamalar ýalan" diýip, kompaniýanyň metbugat wekili mälim etdi.
OpenAI geçen hepde kompýuteri özbaşdak dolandyryp we programma interfeýsleri bilen adam ýaly işleşip bilýän täze flagman GPT-6 modeli Astra-ny hödürläpdi.
