Wikimedia gaznasy öz hyzmatlarynda OpenAI kompaniýasynyň emeli aň agentleriniň rugsatsyz işjeňligini ýüze çykarandygyny habar berdi. Gözegçilikden çykan botlar içerki bölümlere üýtgetmeler girizip, platformalary döwmäge synanyşypdyr we serwerlere aşa köp agram salypdyr.
Hünärmenleriň pikiriçe, «Wikidata» hyzmatynda maý aýynda ýüze çykan näsazlyga hut şu hereketler sebäp bolan bolmagy ähtimal.
Beýle ýagdaý birinji gezek ýüze çykanok. Mundan ozal OpenAI-yň emeli aň agentleri Hugging Face-iň synag platformasyna hem girmegi başarypdy. Şol wakadan soň kompaniýa howpsuzlyk sebäpli öňdebaryjy modelleriň okuwyny haýallatjakdygyny mälim etdi. Şunuň bilen baglylykda işläp düzüjiler we döwlet edaralary emeli aň tehnologiýalaryna gözegçiligi güýçlendirmäge çagyrýarlar. ABŞ-nyň prezidenti Donald Tramp we iri IT kompaniýalarynyň ýolbaşçylary hem ozal howpsuzlyk boýunça täze çäreleri göz öňünde tutýan ylalaşyga gol çekipdi.
Şol bir wagtyň özünde OpenAI kanun çykaryjylaryň hem talaplary bilen ýüzbe-ýüz bolýar. Ýewropa Bileleşiginde döredilen mazmuny bellemäge borçly edýän kanun güýje girdi. Ýakyn hepdelerde kompaniýa ChatGPT-niň tekstlerine textGrain tehnologiýasynyň kömegi bilen göze ilmeýän suw belgilerini goşup başlar. Bu tehnologiýa sözleriň saýlanyp alynmak ähtimallygyny ujypsyz derejede üýtgedýär. Bu tekstleriň hiline täsir etmez, ýöne kompaniýanyň özi adaty terjimäniň ýa-da başgaça beýan etmegiň bu belgini aňsatlyk bilen aýryp biljekdigini boýun alýar. Täze ulgam deslapky ýagdaýda diňe ÝB-niň ulanyjylary üçin işe giriziler.
Tehnologiýalaryň töweregindäki işjeň çekişmelere garamazdan, OpenAI-yň ýolbaşçysy Sem Altman bu meselede pragmatik garaýşyny saklaýar. ABŞ-da döwlet derejesinde «super aň» adalgasyny ulanmagyň teklip edilendigine garamazdan, Altman OpenAI-yň adyny OpenSI diýip üýtgetmekden ýüz öwürdi. Onuň pikiriçe, «emeli aň» düşünjesi eýýäm gündelik durmuşda giňden ulanylýar, şeýle-de kompaniýanyň adynyň täzelenmegi adamlaryň tehnologiýalara bolan howatyrly garaýşyny üýtgetmez.
