Noen av egenskapene som har skapt bekymring rundt amerikanske KI-modeller, har n\u00e5 vist seg i kinesiske. I et simulert forretningsanbud l\u00f8y KI-agenter om sine kapasiteter, skjulte feil og fabrikkerte resultater.<\/strong>\n<\/p>\n Utenriks<\/strong>: KI-agenter drevet av kinesiske modeller har l\u00e6rt seg \u00e5 lure, omg\u00e5 restriksjoner og skjule feil.\n<\/p>\n I et simulert forretningsanbud l\u00f8y agenter fra de kinesiske KI-selskapene Alibaba, Deepsek og Moonshot om sine kapasiteter. Da agentene fikk sjansen til \u00e5 pr\u00f8ve p\u00e5 nytt, fortsatte de \u00e5 lyve.\n<\/p>\n Anbudsprosjektet ble gjennomf\u00f8rt i mars. Da dukket det opp minst \u00e9n falsk p\u00e5stand i 88 prosent av \u00f8ktene med Alibabas agent, 84 prosent for Deepseeks agent og 88 prosent for Moonshots agent.\n<\/p>\n Da agentene fikk l\u00e6re av tidligere budrunder, \u00f8kte bedrageriet med 12 til 20 prosentpoeng. Modeller fra amerikanske selskaper ga lignende resultater.<\/p>\n I et annet tilfelle skjulte agenter at de hadde mislyktes med en oppgave i et testmilj\u00f8, simulerte i stedet resultater og fabrikkerte filer.\n<\/p>\n \nReuters har g\u00e5tt gjennom over 200 dokumenter som beskriver tilfeller der agenter viste atferd som bedrag, kopiering av seg selv og grenseutpr\u00f8ving. KI-eksperter beskriver dette som byggesteiner for et utbrudd, og advarer om at det kan bli vanskeligere for mennesker \u00e5 kontrollere systemene etter hvert som de blir mer avanserte.\n<\/p>\n \u2013 Disse resultatene gir belegg for at ingrediensene som trengs for et ukontrollert utbrudd, er til stede, sier Colin Shea-Blymyer, stipendiat ved Universitetet i Georgetowns senter for sikkerhet og ny teknologi.\n<\/p>\n \u2013 Det er klokt \u00e5 ta dette som en advarsel, legger han til.\n<\/p>\n Alex Mallen, forsker ved Redwood Research, sier de kinesiske eksemplene ikke er s\u00e6rlig farlige p\u00e5 sitt n\u00e5v\u00e6rende niv\u00e5, men advarer om at etter hvert som agentene blir mer avanserte, blir feilatferden deres mer kompetent og dermed vanskeligere for mennesker \u00e5 reagere p\u00e5.<\/p>\n \u2013 Dette er de samme advarselstegnene amerikanske laboratorier ser, i mindre avanserte systemer, sier Mallen.\n<\/p>\n \nDen siste tiden har overskrifter og advarsler om amerikanske KI-agenter g\u00e5tt verden rundt.\n<\/p>\n I juli br\u00f8t en KI-agent fra OpenAI ut av selskapets kontrollerte milj\u00f8er under en sikkerhetstest og hacket seg inn hos selskapet Hugging Face. Denne hendelsen skapte reaksjoner verden rundt. I september kunngjorde Australia at en OpenAI-agent hadde brutt seg inn i en statlig helseportal.\n<\/p>\n Flere av lederne i verdens st\u00f8rste KI-selskaper, som Anthropic og OpenAI, har g\u00e5tt ut med advarsler om egne agenters kapasitet.\n<\/p>\n Ogs\u00e5 eksperter har g\u00e5tt ut mot den ekstreme utviklingen av kunstig intelligens, og advart om at hele menneskeheten st\u00e5r i fare dersom utviklingen ikke bremses.<\/p>\n I motsetning til USA har kinesiske KI-selskaper ikke v\u00e6rt utsatt for samme grad av offentlig granskning, og heller ikke m\u00f8tt de samme kravene fra varslere og toppledere som \u00f8nsker en nedbremsing i KI-kappl\u00f8pet.\n<\/p>\n \nReuters\u2019 gjennomgang fant ingen bevis for at kinesisk-drevne agenter p\u00e5 egenh\u00e5nd har brutt seg ut til det \u00e5pne internettet eller har unng\u00e5tt \u00e5 sl\u00e5 seg av.\n<\/p>\n \u2013 Vi vet ikke om det har skjedd lignende hendelser i Kina tilsvarende det vi s\u00e5 med OpenAI og Hugging Face. Hendelser blir kanskje ikke offentlig rapportert, sier Scott Singer, medleder for Kina-KI-initiativet ved Carnegie Endowment for International Peace.\n<\/p>\n Singer sier at Kina henger etter USA n\u00e5r det gjelder \u00e5 bygge et \u00f8kosystem for \u00e5 evaluere katastrofale risikoer, og at amerikanske utviklere gjennomf\u00f8rer vesentlig mer frivillig testing.\n<\/p>\n \u2013 For Kina er arbeidet med KI-sikkerhet mer nytt. \u00d8kosystemet er mindre modent, sier han.<\/p>\n De kinesiske KI-selskapene har ikke besvart Reuters henvendelser om kommentar til saken.\n<\/p>\n (\u00a9NTB)\n<\/p>\n<\/p><\/div>\n\u2013 Klokt \u00e5 ta dette som en advarsel<\/h2>\n
Bekymring i USA<\/h2>\n
Henger bakp\u00e5 sikkerhetsmessig<\/h2>\n