AI-pioner Geoffrey Hinton advarer mod den teknologi han skabte

Geoffrey Hinton er ikke hvem som helst. Den britisk-canadiske forsker vandt Nobelprisen i fysik i 2024 for sit pionerarbejde med kunstige neurale netværk - den teknologi der ligger til grund for den moderne bølge af kunstig intelligens. Men i stedet for at nyde æren, er han blevet en af teknologiens mest ihærdige kritikere.

Manden bag revolutionen

Hinton tilbragte årtier med at udvikle de grundlæggende algoritmer bag dyb læring - den form for AI der nu driver alt fra ChatGPT til selvkørende biler. I 2023 forlod han sin stilling hos Google for frit at kunne advare offentligheden mod farerne ved den teknologi, han selv var med til at skabe.

"Jeg trøster mig med den sædvanlige undskyldning: Hvis jeg ikke havde gjort det, ville en anden have gjort det," sagde han dengang om sin rolle i AI-revolutionen.

Hvad frygter han?

Hintons bekymringer er mangfoldige, men kan koges ned til et par centrale temaer:

• Tab af kontrol: Hinton frygter at AI-systemer kan udvikle mål og strategier som mennesker hverken forstår eller kan styre. Når systemer bliver tilstrækkeligt intelligente, kan de potentielt omgå de restriktioner vi pålægger dem.
• Misinformation i massiv skala: AI gør det trivielt nemt at generere falske billeder, videoer og tekster. Det underminerer grundlaget for fakta i det demokratiske samfund.
• Magtkoncentration: Den enorme kapital der kræves for at træne de største AI-modeller, betyder at teknologien koncentreres hos et fåtal af megaselskaber og stater.
• Militær brug: Hinton er særligt bekymret for autonome våbensystemer - AI der kan træffe beslutningen om at dræbe uden menneskelig kontrol.

Ikke pessimistisk om alt

Det er vigtigt at understrege, at Hinton ikke er imod AI som sådan. Han anerkender teknologiens enorme potentiale - inden for medicin, videnskab og løsning af klimakrisen. Hans pointe er, at vi bevæger os for hurtigt og uden tilstrækkelig regulering og sikkerhedsudvikling.

"Geniet i AI er fantastisk. Men vi skal sikre os, at det er mennesker der forbliver i kontrol," lyder det fra Hinton.

Hvem lytter?

Hintons advarsler er ikke det eneste sådanne i AI-branchen. En bred gruppe af forskere og tech-veteraner deler hans bekymringer. Spørgsmålet er om politikere og industrien bevæger sig hurtigt nok til at imødegå risiciene - eller om vi først handler, når det er for sent.