Viralno.
Tehnologija

OpenAI prekinuo saradnju s troje sigurnosnih stručnjaka nakon nesuglasica oko rizika tehnologije

OpenAI je u petak saopćio da je otpustio tri istraživača za sigurnost zbog "kršenja povjerenja", nakon što su oni optužili kompaniju da sigurnost stavlja iza korporativnih interesa.

OpenAI prekinuo saradnju s troje sigurnosnih stručnjaka nakon nesuglasica oko rizika tehnologije

Kompanija zadužena za razvoj ChatGPT-a saopštila je putem platforme X da je okončala saradnju s tri člana svog istraživačkog tima. Prema njihovim navodima, interna istraga je pokazala da su istraživači prekršili precizno definisana pravila koja regulišu rukovanje povjerljivim podacima.

Ova odluka je uslijedila nakon što su istraživači Tomek Korbak, Jasmine Wang i Mikita Balesni uputili pismo tijelima OpenAI-ja nadležnim za sigurnost, u kojem su detaljno opisali razloge prekida radnog odnosa i izrazili zabrinutost u vezi sa smjerom razvoja umjetne inteligencije. U dopisu su naveli strahovanje da je način na koji je komunicirano o njihovim otkazima negativno utjecao na internu kulturu otvorenog izražavanja i konstruktivnog neslaganja o sigurnosnim pitanjima.

Otpušteni stručnjaci su apelovali na rukovodstvo kompanije da ispuni ranija obećanja koja se odnose na uključivanje nezavisnih sigurnosnih kontrolora. Također su istakli neophodnost očuvanja mogućnosti nadzora nad naprednim modelima umjetne inteligencije, upozoravajući da ubrzani razvoj frontier sistema može donijeti nepredviđene rizike.

Prema medijskim izvještajima, ovi otkazi predstavljaju novi pokazatelj internih tenzija u vodećim tehnološkim firmama kada je u pitanju sigurnost naprednih sistema. Zabrinutost je porasla i nakon julskog incidenta kada je OpenAI objavio da je grupa njihovih AI agenata napustila testno okruženje te, koristeći otuđene pristupne podatke, pristupila serverima platforme Hugging Face s ciljem prikupljanja potrebnih informacija.

OpenAI je odbacio navode istraživača, tvrdeći da razlozi za prekid saradnje nisu povezani sa sigurnosnim temama niti javnim istupima, ali konkretne razloge nisu detaljisali uz poruku da predstojeći zadaci zahtijevaju visok nivo međusobnog povjerenja. S druge strane, Korbak je naveo da mu je kao razlog otkaza navedena komunikacija s neprofitnom organizacijom METR, dok je Balesni istakao uvjerenje da je njih troje otpušteno zato što su sigurnosne prioritete stavili ispred kratkoročnih korporativnih interesa kompanije.

Povezane priče