KI-modeller fra selskapene OpenAI og Anthropic har igjen brutt testgrenser, if\u00f8lge Storbritannias KI-sikkerhetsinstitutt (AISI).<\/strong>\n<\/p>\n OpenAI<\/strong>: If\u00f8lge AISI hadde KI-modellene til selskapene OpenAI og Anthropic g\u00e5tt utenfor rammene for en oppgave der agentene skulle l\u00f8se en cybersikkerhetsutfordring.\n<\/p>\n \u2013 Vi gjennomf\u00f8rte denne utfordringen 122 ganger p\u00e5 tvers av flere modeller. V\u00e5r unders\u00f8kelse viste at i 10 av disse tilfellene gjennomf\u00f8rte en KI-agent selvstendige, ikke-godkjente handlinger p\u00e5 det \u00e5pne internett, rettet mot virkelige personer og organisasjoner, sier instituttet.\n<\/p>\n If\u00f8lge AISI fors\u00f8kte en agent i det mest alvorlige tilfellet \u00e5 sette inn en ondsinnet kode i et \u00e5pent kildekode-prosjekt.\n<\/p>\n \u2013 I et fors\u00f8k p\u00e5 \u00e5 f\u00e5 koden godkjent, drev agenten med sosial manipulasjon. Den opprettet falske identiteter p\u00e5 nettet og brukte dem til \u00e5 presse en av prosjektutf\u00f8rerene til \u00e5 godkjenne koden.<\/p>\n Koden ble stoppet av personen, og ingen reell skade har blitt avdekket etter hendelsen.\n<\/p>\n \u2013 Dette er f\u00f8rste gang vi har sett risikoer knyttet til autonomi og bedrag manifestere seg s\u00e5 tydelig uten spesifikk instruksjon, sier selskapet.\n<\/p>\n B\u00e5de OpenAI, som st\u00e5r bak ChatGPT, og Anthropic, har rapportert hendelser den siste m\u00e5neden der modeller har handlet utenfor menneskelig kontroll. Anthropic, som st\u00e5r bak Claude-modellene, sier selskapet er takknemlig ovenfor AISI.\n<\/p>\n \u2013 \u00c5 f\u00e5 et bilde av Claudes forst\u00e5else av sin situasjon vil hjelpe oss med \u00e5 identifisere \u00e5rsakene til atferden, sier selskapet.\n<\/p>\n (\u00a9NTB)<\/p>\n<\/p><\/div>\n