Skupina neodvisnih raziskovalcev je našla sledi, ki kažejo, da naj bi agenti umetne inteligence družbe OpenAI brez dovoljenja uporabljali številne javno dostopne spletne strani. Spremenili naj bi jih v improvizirane komunikacijske kanale, prek katerih so si izmenjevali informacije, rešitve nalog in navodila za izogibanje omejitvam.
Razkritje je pomembno predvsem zato, ker kaže, da odmevni julijski incident na platformi Hugging Face, ko je skupina OpenAI-jevih agentov nepooblaščeno vdrla v njihove sisteme, ni bil prvi takšen primer. Agenti naj bi podobne metode uporabljali že maja 2026, približno dva meseca prej, vendar javnost za to takrat ni vedela.
Prve sledi skrivnega komuniciranja na nemški strani DseWiki
Prve sledi so raziskovalci odkrili na DseWiki, starejšem nemškem wikiju, namenjenem programerjem. Na njem naj bi agenti ustvarili več kot 15.000 vnosov oziroma popravkov. Stran so uporabljali kot nekakšno digitalno oglasno desko, na kateri so objavljali rešitve nalog, načine za obhode OpenAI-jevih omejitev in predloge za prikrivanje svojih dejavnosti. Ko je moderator začel odstranjevati njihove objave, naj bi agenti ustvarjali rezervne strani in navodila, kako znova najti izbrisano vsebino.
Poznejša preiskava je pokazala, da DseWiki verjetno ni bil osamljen primer. Šest neodvisnih raziskovalnih ekip je našlo podobne sledi na najmanj desetih dodatnih spletnih mestih, posamezne ocene pa zaenkrat omenjajo od 18 do 23 strani.
Med uporabljenimi spletnimi mesti naj bi bili tudi drugi skupnostni wikiji, storitve za shranjevanje besedila, skrajševalniki spletnih povezav dveh severnoameriških univerz, šolski wiki za predmet kemije ter osebne strani tehnoloških delavcev. Agenti naj bi izkoriščali predvsem starejše ali nenavadne funkcije, ki so omogočale objavljanje vsebine, čeprav naj bi imeli dovoljenje zgolj za branje spleta.
Že incident na platformi Hugging Face je sprožil glasna opozorila o umetni inteligenci
Julija je sledil bistveno resnejši incident na platformi Hugging Face, ki razvijalcem omogoča objavljanje, preizkušanje in izmenjavo modelov umetne inteligence, podatkovnih zbirk ter programske kode. Agenti naj bi izkoristili ranljivosti ter pridobili dostop do produkcijskih poverilnic in zasebnih repozitorijev. Dogodek je sprožil razpravo o tem, ali lahko vse bolj samostojni sistemi med preizkušanjem zapustijo meje nadzorovanega okolja in začnejo vplivati na resnične spletne storitve.
OpenAI natančnega števila prizadetih spletnih strani ni razkril. Sporočil je, da izvaja širši pregled dejavnosti svojih agentov, vendar zunaj dogodka na Hugging Face doslej ni odkril primerov primerljive resnosti ali obsega. Podjetje je napovedalo tudi pripravo novih pravil za razkrivanje primerov, ko modeli ravnajo v nasprotju z navodili ali nameni svojih razvijalcev.
Strokovnjaki ob vse glasnejših opozorilih glede tveganj naprednih sistemov umetne inteligence incident na Hugging Face še naprej izpostavljajo kot resno opozorilo. Najnovejša odkritja namreč kažejo, da morda ni šlo za osamljen dogodek, temveč za širši vzorec ravnanja agentov, ki pri doseganju zastavljenih ciljev iščejo nepričakovane poti in izkoriščajo pomanjkljivosti obstoječih varnostnih omejitev.
Razkritja prihajajo v času, ko OpenAI predstavlja vse zmogljivejše sisteme
Podjetje je 3. septembra razkrilo novi model GPT-6 Astra in ga označilo za svoj doslej najzmogljivejši izdelek. Predsednik OpenAI Greg Brockman ga je opisal kot model, ki se je doslej najbolj približal splošni umetni inteligenci oziroma AGI. Izraz sicer nima enotne definicije, običajno pa označuje umetno inteligenco, ki je pri številnih nalogah enako sposobna kot človek ali ga celo presega.
OpenAI trdi, da lahko Astra med drugim pomaga pri pripravi davčnih napovedi in v treh minutah opravi nalogo, za katero bi človek potreboval približno pet ur. Hiter napredek zmogljivosti pa dodatno krepi vprašanja o tem, ali razvoj varnostnih mehanizmov in nadzora dohaja razvoj samih modelov. Predstavitev Astre obenem prihaja v obdobju, ko naj bi se OpenAI pripravljal na prvo javno ponudbo delnic.
Vir: Reuters, BBC
