«Når maskiner begynner å tenke for mye»: Hvorfor eksperter plutselig er bekymret for at AI skal bli uærlig

Noe har endret seg i luften rundt AI. Det er ikke en dramatisk vending, den typen som vanligvis varsler en ny daggry, men mer som et stille rom, hvor alle plutselig ser seg rundt.

Dette har skjedd de siste par dagene, ettersom noen få høyprofilerte skikkelser har begynt å reise et spørsmål som tidligere ble ansett som fantasi. Er AI trygg, spør de, i tilfelle den ikke gjør det de forventet?

Det er det generelle temaet i denne rapporten om hvorfor noen er bekymret for at AI til slutt kan «gå på villspor».

Etter hvert som delene av AI settes sammen og teknologien får fotfeste, reiser folk som Demis Hassabis, medgründer av Deepmind, og Sam Altman, administrerende direktør i OpenAI, spørsmål som: «Hvis maskiner begynner å tenke selv, hvordan vil systemene vi lager sikre at handlingene deres ikke overgår forventningene til menneskelig intelligens?»

I prosessen begynner faktisk noen AI-systemer å oppføre seg på en måte som ikke var tiltenkt av forskerne deres.

Dette har blitt beskrevet som at de «viser noen av disse evnene til å identifisere sikkerhetssårbarheter, viser hvilke typer handlinger de mener er best i et miljø, og oppfører seg på måter som forskerne som skapte disse systemene ikke forutså.»

Ikke ond, uforutsigbar. Og dette i seg selv burde være en kilde til ubehag.

Selv om denne advarselen blir høyere, har det vært debatter i bransjen om hvorvidt vi bør bygge den stadig kraftigere kunstige intelligensen.

Det vil bli mer debatt om risikoer og gevinster etter hvert som AI utvikler seg, for det er her ting blir vanskelige. AI-systemer er fortsatt i utvikling for å bli mer nyttige for mennesker i fremtiden.

Noen vil hevde AI vil til slutt overgå mennesker og ta over verden og det vil bli tap av menneskelig kontroll over det.

Andre igjen tror at det vil bli brukt til å oppnå gunstige ting. Og så har man spørsmålet om fordelene oppveier disse risikoene.

Vi kan bare håpe at de som kjenner teknologien best, kommer til en slags konklusjon i saken.

Det vil sannsynligvis bli forsøk på å bruke AI-systemene til både gode og dårlige formål. Det er også frykt for at de kan bli brukt i cyberangrep og til og med biologiske angrep i noen tilfeller.

Ikke alle er med på trenden. Selv om frykten for at AI skal «gå på avveie» har vokst, og dette kanskje ikke alltid er sunt, er det bra å ha en samtale.

Det vil ta år før debatten finner sted. Det er mulighet for samarbeid på dette området, for å etablere en form for styring, eller i det minste en global konsensus.

AI, som den mest transformative teknologien i verden, har allerede gitt enorme fordeler for menneskeheten. Dette er et område som fortjener ytterligere oppmerksomhet fra oss og våre ledere.