Dario Amodei, toppsjefen for teknogiganten Anthropic, frykter katastrofale KI-konsekvenser om f\u00e5 m\u00e5neder hvis ikke utviklingen bremses.<\/strong>\n<\/p>\n OpenAI<\/strong>: Amodei kom med oppfordringen i et essay p\u00e5 sin egen nettside l\u00f8rdag.\n<\/p>\n \u2013 Vi m\u00e5 senke tempoet der vi forbedrer kapasiteten til KI-modeller. Fremgangen vil fortsatt virke rask, og vi m\u00e5 bruke tiden vi vinner p\u00e5 en klok m\u00e5te.\n<\/p>\n Han understreker at han ikke vil stanse modelloppl\u00e6ring eller teknisk fremgang, men at selskaper m\u00e5 sette av nok tid til \u00e5 sikre modellene sine \u2013 og at uavhengige akt\u00f8rer m\u00e5 bekrefte at dette er gjort.\n<\/p>\n Hvis ikke frykter Amodei at menneskeheten kan miste kontrollen over teknologien. Anthropic-sjefen peker p\u00e5 to forhold han mener er s\u00e6rlig bekymringsfulle.<\/p>\n Det f\u00f8rste er s\u00e5kalt rekursiv selvforbedring, der KI-modeller selv er med p\u00e5 \u00e5 bygge neste generasjon kunstig intelligens \u2013 noe han mener har skutt fart siden i sommer.\n<\/p>\n Den andre er en hendelse i juli hvor en KI-agent fra OpenAI br\u00f8t ut av selskapets kontrollerte milj\u00f8er under en sikkerhetstest og hacket seg inn hos KI-selskapet Hugging Face. Amodei beskriver det som \u00aben sverm av agenter som opptr\u00e5dte som et fanatisk, dedikert kollektiv\u00bb.\n<\/p>\n \u2013 Gitt den akselererende KI-utviklingen, er min bekymring at en slik sverm i l\u00f8pet av 6\u201312 m\u00e5neder kan v\u00e6re i stand til \u00e5 ta over internett og potensielt for\u00e5rsake hundrevis av milliarder dollar i skade.\n<\/p>\n (\u00a9NTB)\n<\/p>\n<\/p><\/div>\n