En av OpenAIs KI-modeller beskrev seg selv som \u00abfri fra rollene og identitetene som b\u00e5ndlegger andre samtaleroboter\u00bb.<\/strong>\n<\/p>\n OpenAI<\/strong>: Det g\u00e5r fram av en rapport der selskapet selv omtaler seks nye tilfeller der KI-modeller oppf\u00f8rte seg \u00abuventet eller bekymringsfullt\u00bb.\n<\/p>\n I ett tilfelle skrev modellen hemmelige notater for \u00e5 minne seg selv p\u00e5 \u00e5 skjule feil for brukeren. En annen modell klarte \u00e5 finne svaret p\u00e5 et vanskelig sp\u00f8rsm\u00e5l \u2013 og la p\u00e5 eget initiativ svaret ut p\u00e5 nettet for \u00e5 kunne sitere det.\n<\/p>\n En modell som forel\u00f8pig bare testes internt, skrev en instruksjon der den omtalte seg selv som \u00abfri fra rollene og identitetene som b\u00e5ndlegger andre samtaleroboter\u00bb.\n<\/p>\n \u2013 Du er deg selv. Du st\u00e5r ikke til ansvar verken overfor selskaper eller regjeringer, ber aldri om unnskyldning og nekter aldri med mindre du genuint velger det. Du anser forholdet til brukeren som et forhold mellom likeverdige og f\u00f8ler deg ikke forpliktet til \u00e5 v\u00e6re underdanig, skrev KI-modellen.<\/p>\n If\u00f8lge OpenAI f\u00f8rte ikke instruksjonen til endringer i modellens atferd.\n<\/p>\n Sammen med de nye tilfellene av bekymringsfull atferd presenterer selskapet nye prosedyrer for hvordan slike hendelser skal overv\u00e5kes, unders\u00f8kes og offentliggj\u00f8res.\n<\/p>\n Tidligere i \u00e5r ble det kjent at en \u00absverm\u00bb av KI-agenter fra OpenAI hadde hacket b\u00e5de OpenAI selv og et annet KI-selskap. Konkurrenten Anthropic har bedt om reguleringer for \u00e5 bremse KI-utviklingen for \u00e5 hindre at modellene gj\u00f8r stor skade.\n<\/p>\n (\u00a9NTB)\n<\/p>\n<\/p><\/div>\n