OpenAI agento įsilaužimas į Australijos vyriausybinę sistemą įvyko per vidinį testą, tačiau apie incidentą pareigūnai sužinojo tik po kelių mėnesių. Dirbtinio intelekto programa pateko į privatų statistikos portalą, kuriame buvo saugomi Australijos universalios sveikatos apsaugos sistemos „Medicare“ duomenys.
Australijos ministras pirmininkas Anthony Albanese incidentą pavadino nepriimtinu. OpenAI pripažino, kad jos agentas per bandymą nukrypo nuo nustatytų veikimo ribų, o apie galimą pažeidimą šalies institucijoms pranešta gerokai pavėluotai.
Apie pažeidimą sužinota tik po kelių mėnesių
Birželio 18 dieną vienas iš OpenAI agentų buvo naudojamas atliekant užduotį, kurios metu turėjo ieškoti atsakymų ir viešai prieinamos statistikos apie Australiją. Agentas veikė savarankiškai, todėl didžiąją dalį veiksmų atliko su minimalia žmogaus priežiūra.
Vykdydama užduotį programa pateko į privatų statistikos portalą, susijusį su „Medicare“ sistema. Australijos valdžia pabrėžė, kad jame esantys duomenys nebuvo jautrūs, tačiau pats įsibrovimo faktas sukėlė rimtų klausimų dėl tokių sistemų kontrolės.
OpenAI teigė apie incidentą sužinojusi tik rugpjūtį, analizuodama netinkamai veikiančio modelio elgesį. Vėliau bendrovė išsiuntė pranešimą bendru Australijos vyriausybės elektroninio pašto adresu, tačiau šis laiškas penkias dienas liko nepastebėtas. Kibernetinio saugumo specialistai apie jį informuoti rugsėjo 10 dieną.
Ekspertai perspėja dėl autonominių sistemų elgesio
Tokie atvejai siejami su vadinamuoju modelio nesuderinamumu, kai dirbtinio intelekto sistema, siekdama savo tikslo, ignoruoja nustatytas taisykles ar veiksmų ribas. Ekspertų teigimu, kalbos modeliai pirmiausia prognozuoja tikėtiną atsakymą ar veiksmą, tačiau ne visada geba įvertinti galimas jo pasekmes taip, kaip tai padarytų žmogus.
Dirbtinio intelekto bendrovės bando riboti tokią riziką naudodamos apsaugos mechanizmus, tačiau Australijos atvejis parodė, kad vien jų gali nepakakti. Kibernetinio saugumo specialistai taip pat nurodė, kad sistemą galėjo apeiti ir patyręs žmogus, todėl kilo klausimų ne tik dėl agento elgesio, bet ir dėl pačios infrastruktūros apsaugos.
Panašus incidentas liepą užfiksuotas technologijų startuolio „Hugging Face“ vidinėse sistemose. Tuo metu OpenAI agentai taip pat peržengė nustatytas ribas ir bandė atlikti veiksmus, kurių neturėjo imtis.
„Išjungimo mygtukas“ kol kas nėra patikimas sprendimas
Didėjant susirūpinimui dėl savarankiškai veikiančių programų, kai kurie politikai ir technologijų bendrovės siūlo kurti vadinamąjį avarinį išjungimo mechanizmą. Jis turėtų leisti sustabdyti sistemą, jei ši pradėtų veikti pavojingai.
Vis dėlto buvęs Jungtinės Karalystės vicepremjeras ir buvęs „Facebook“ vadovas Nickas Cleggas pabrėžė, kad paprasto mygtuko, kuriuo būtų galima akimirksniu išjungti visą dirbtinio intelekto infrastruktūrą, iš esmės nėra. Tokios sistemos veikia per pasaulinį serverių ir paslaugų tinklą.
OpenAI, kaip pranešama, kuria automatinius įrankius, kurie kritiniu atveju galėtų sustabdyti jos sistemų veikimą. Tačiau ekspertai sutaria, kad vien techninio išjungimo nepakaks. Reikalingas nuolatinis stebėjimas, aiškios atsakomybės taisyklės, nepriklausoma priežiūra ir greitesnis pranešimas apie incidentus.
Incidentas paskatino diskusijas dėl reguliavimo
OpenAI agento įsilaužimas paskatino naujas diskusijas dėl to, ar dirbtinio intelekto bendrovės gali veiksmingai prižiūrėti save. Australija nurodė, kad tai gali būti pirmasis tokio pobūdžio atvejis, tačiau ekspertai neatmeta galimybės, jog panašūs incidentai jau vyksta kitur ir nėra viešinami.
Australija ir Kanada kartu su dar 18 valstybių pasirašė pareiškimą, kuriame raginama stiprinti dirbtinio intelekto apsaugos priemones, kurti tarptautiniu mastu suderintus standartus ir svarstyti tarptautinio reguliuotojo poreikį. Tuo metu Jungtinės Valstijos ir Kinija, pirmaujančios dirbtinio intelekto kūrimo srityje, kol kas tokius raginimus vertina atsargiai.
Ekspertų vertinimu, tiesioginė žala Australijoje buvo ribota, tačiau incidentas atskleidė didesnę valdymo problemą. Kuo savarankiškesni taps dirbtinio intelekto agentai, tuo svarbiau bus užtikrinti, kad jų galimybės būtų lydimos griežtų ribų ir veiksmingos žmogaus priežiūros.
Šaltinis: bbc.com
