Ikke bare amerikanske tek-giganter, men ogs\u00e5 flere av verdens fremste KI-forskere frykter at den raske teknologiske utviklingen kan ende i katastrofe.<\/strong>\n<\/p>\n Washington<\/strong>: \u2013 Det er en grunn til at selskaper sier at dette g\u00e5r for raskt, at vi mister kontrollen, sier professor Yoshua Bengio til nyhetsbyr\u00e5et AFP.\n<\/p>\n \u2013 Folk som meg har forventet dette lenge, legger han til.\n<\/p>\n Han uttaler seg i etterkant av flere dramatiske advarsler fra ansatte i Anthropic, en av de viktigste akt\u00f8rene i utviklingen av kunstig intelligens (KI).\n<\/p>\n \u00c9n ansatt sa opp jobben og hevdet at de som utvikler KI, tror teknologien kan utslette menneskeheten innen f\u00e5 \u00e5r.<\/p>\n Anthropic-sjef Dario Amodei gikk offentlig ut og ba om strengere regulering av egen n\u00e6ring og lavere tempo i KI-utviklingen. Han fikk st\u00f8tte fra Elon Musk og Sam Altman, sjefen for KI-giganten OpenAI.\n<\/p>\n \nAdvarslene har gitt KI-risiko et kraftig l\u00f8ft p\u00e5 den internasjonale dagsordenen, og om f\u00e5 dager skal temaet diskuteres under FNs hovedforsamling.\n<\/p>\n Statsminister Jonas Gahr St\u00f8re (Ap) har allerede dr\u00f8ftet situasjonen med kolleger i flere andre land.\n<\/p>\n Men noen stiller seg skeptiske til advarslene og sp\u00f8r hva som er motivet bak dem. Frankrikes finansminister Roland Lescure mener de amerikanske KI-gigantene har egeninteresse av \u00e5 be om mer regulering.\n<\/p>\n \u2013 Dette f\u00e5r alle bak dem til \u00e5 sakke farten, slik at de kan beholde f\u00f8rsteplassen, sier han til Reuters.<\/p>\n Andre beskylder KI-gigantene for \u00e5 bruke \u00abdommedagsprofetier\u00bb som en uvanlig form for markedsf\u00f8ring.\n<\/p>\n B\u00e5de Amodei, Altman og Musk har tidligere advart om \u00abeksistensiell risiko\u00bb som f\u00f8lge av KI.\n<\/p>\n \nAdvarslene om mulige fatale f\u00f8lger av KI-utviklingen kommer imidlertid ogs\u00e5 fra eksperter som ikke selv er knyttet til de store selskapene.\n<\/p>\n Bengio er professor ved Universitetet i Montr\u00e9al i Canada og leder for en ikke-kommersiell organisasjon som h\u00e5per \u00e5 utvikle trygg KI. Han er redd KI-modeller etter hvert blir i stand til \u00e5 hacke seg inn i selskaper over hele verden.\n<\/p>\n Et mulig frampek kom tidligere i \u00e5r, da en \u00absverm\u00bb av OpenAIs KI-agenter p\u00e5 eget initiativ hacket b\u00e5de OpenAI og et annet KI-selskap.<\/p>\n \u00c5 kontrollere KI er if\u00f8lge Bengio en stor internasjonal utfordring.\n<\/p>\n \u2013 Slik som kjernefysiske v\u00e5pen er en internasjonal utfordring, sier han.\n<\/p>\n De siste \u00e5rene har han fors\u00f8kt \u00e5 f\u00e5 politiske ledere til \u00e5 se alvoret i situasjonen, og i fjor hadde han et m\u00f8te med Jonas Gahr St\u00f8re i Oslo.\n<\/p>\n \nSiden Bengio spilte en viktig rolle i utviklingen av det som kalles kunstige nevrale nettverk, er han omtalt som en av \u00abgudfedrene\u00bb bak kunstig intelligens. En annen forsker med samme status er nobelprisvinner Geoffrey Hinton \u2013 og ogs\u00e5 han har i flere \u00e5r advart om at KI-utviklingen kan ende i katastrofe.\n<\/p>\n Nylig fikk han sp\u00f8rsm\u00e5l fra BBC om anslaget til en Anthropic-ansatt som mener det er mer enn 10 prosent risiko for at KI tar livet av alle mennesker p\u00e5 kloden innen 2040.<\/p>\n \u2013 10 prosent virker ikke som et urimelig anslag, svarte Hinton, som la til at det er sv\u00e6rt vanskelig \u00e5 beregne dette.\n<\/p>\n Han ser for seg flere mulige dystre scenarioer, som at KI-modeller iverksetter massive dataangrep eller utvikler nye, farlige virus.\n<\/p>\n \nEn tredje sentral forsker som er bekymret, er Stuart J. Russell, professor ved Berkeley-universitetet i California og forfatter av en mye brukt l\u00e6rebok om KI for studenter.\n<\/p>\n Allerede i 2014 spurte han om det p\u00e5 sikt ville v\u00e6re mulig for mennesker \u00e5 kontrollere KI. Ogs\u00e5 den kjente fysikeren Stephen Hawking stilte seg bak denne advarselen.\n<\/p>\n Samtidig er det stor uenighet i forskermilj\u00f8ene om hvor stor trusselen fra KI egentlig er. Noen avviser det de kaller dommedagsprofetier uten hold i virkeligheten.<\/p>\n \u2013 Dette er en del av et m\u00f8nster av grunnl\u00f8se p\u00e5stander om makt, sa professor Emily M. Bender ved University of Washington til BBC tidligere i \u00e5r.\n<\/p>\n Hun beskyldte KI-selskapene for \u00e5 bruke katastrofescenarioene til \u00e5 avlede oppmerksomhet fra reelle problemer som selskapene allerede for\u00e5rsaker.\n<\/p>\n (\u00a9NTB)\n<\/p>\n<\/p><\/div>\nSkal diskuteres i FN<\/h2>\n
\u2013 Internasjonal utfordring<\/h2>\n
Advart i flere \u00e5r<\/h2>\n
\u2013 Grunnl\u00f8se p\u00e5stander<\/h2>\n