Dirbtinio intelekto modeliai jau naudojami kuriant vis pažangesnes savo versijas. „Anthropic“ paskelbė, kad jos modelis „Claude“ šiuo metu pirmauja atliekant 26 proc. bendrovės modelių tyrimų ir kūrimo darbų, nors žmonių priežiūra vis dar išlieka būtina.
Dar platesnis „Claude“ dalyvavimas matomas vertinant bendrą darbą su tyrėjais. Bendrovės duomenimis, maždaug 90 proc. jos tyrimų ir kūrimo veiklos jau vyksta bendradarbiaujant su „Claude“. Tokiais atvejais modelis gali atlikti dideles užduoties dalis, tačiau dirba pagal artimus žmogaus nurodymus.
Skirtumas tarp šių dviejų skaičių yra svarbus. 26 proc. reiškia darbus, kuriuose „Claude“ gali atlikti didžiąją užduoties dalį nuo aukšto lygio nurodymo iki rezultato, nors procesą vis dar prižiūri žmogus. 90 proc. rodiklis apima platesnį darbų ratą, kuriame dirbtinis intelektas ir žmonės dirba kartu.
„Claude“ savarankiškai naujos savo versijos dar nekuria.
Per pusmetį pokytis buvo ryškus
„Anthropic“ pateikti duomenys parodo, kaip greitai keičiasi „Claude“ vaidmuo pačios bendrovės viduje. Vasario mėnesį modelio savarankiškiau atliekamų tyrimų ir kūrimo darbų dalis buvo lygi nuliui.
Rugpjūtį ji jau siekė maždaug ketvirtadalį visų tokių darbų.
Bendrovė taip pat atskleidė, kad rugpjūtį tyrimų ir inžinerijos užduotis vykdė apie 30 tūkst. dirbtinio intelekto agentų. „Anthropic“ teigimu, tokiu mastu tampa ypač svarbios priežiūros sistemos, leidžiančios stebėti agentų veiklą ir nustatyti netinkamą jų elgesį.
Bendrovė neseniai įsipareigojo pasitelkti ir nepriklausomus išorės vertintojus. Jie turėtų dirbti bendrovės viduje ir stebėti su dirbtinio intelekto saugumu susijusias priemones.
Kodėl „Anthropic“ pati apie tai kalba viešai?
Didėjantis „Claude“ vaidmuo sutampa su platesne diskusija apie vadinamąjį rekursinį savęs tobulinimą. Taip apibūdinama situacija, kai dirbtinio intelekto sistema galėtų autonomiškai prisidėti prie dar pajėgesnio savo įpėdinio sukūrimo.
„Anthropic“ neskelbia, kaip arti jos technologijos yra tokio lygio. Dabartiniai duomenys taip pat nereiškia, kad „Claude“ jau gali savarankiškai sukurti kitą savo versiją.
Bendrovė perspėja, kad modeliams vis labiau spartinant savo pačių kūrimą žmonėms gali tapti sudėtingiau suprasti ir kontroliuoti tokias sistemas. Dėl to „Anthropic“ ragina dirbtinio intelekto kūrėjus viešai skelbti panašius rodiklius ir naudoti bendrą metodiką, kuri leistų stebėti pokyčius bei palyginti skirtingas laboratorijas.
„Turėtume daryti viską, kas įmanoma, kad sumažintume atotrūkį tarp to, ką žino pažangiausios laboratorijos, ir to, ką žino visuomenė“, – savo tinklaraštyje nurodė „Anthropic“.
Bendrovės teigimu, tam reikia geriau matuoti dirbtinio intelekto pažangą, viešai skelbti rezultatus ir suteikti visuomenei galimybę spręsti, kaip šia informacija naudotis.
Diskusija vyksta tuo metu, kai dalis technologijų sektoriaus lyderių ragina lėtinti pažangiausių dirbtinio intelekto sistemų kūrimą dėl galimų saugumo rizikų. Tarp tokią poziciją išsakančių žmonių yra ir „Anthropic“ vadovas Dario Amodei.
Tuo pat metu technologijų sektoriuje nėra bendro sutarimo dėl kūrimo tempo mažinimo. Todėl „Anthropic“ paskelbti skaičiai svarbūs ne vien dėl to, kiek darbo šiandien atlieka „Claude“. Jie suteikia konkretų atskaitos tašką stebint, kaip greitai dirbtinis intelektas tampa pačios dirbtinio intelekto technologijos kūrimo dalimi.
Šaltiniai:
Associated Press
Anthropic
