Nobelpristagaren: Måste undvika att AI spårar ur

Forskarna John Hopfield och Geoffrey Hinton får Nobelpriset i fysik. De två inspirerades av den mänskliga hjärnan, för att skapa datorer som lär sig.
–AI och maskininlärning kommer att förändra samhället på liknande sätt som den industriella revolutionen, säger Hinton.

Årets Nobelpris i fysik går till John Hopfield och Geoffrey Hinton, vilket avslöjades vid en presskonferens med Hans Ellergren (mitten), ständig sekreterare, professor Ellen Moons och professor Anders Irbäck vid Vetenskapsakademien.

Årets Nobelpris i fysik går till John Hopfield och Geoffrey Hinton, vilket avslöjades vid en presskonferens med Hans Ellergren (mitten), ständig sekreterare, professor Ellen Moons och professor Anders Irbäck vid Vetenskapsakademien.

Foto: Christine Olsson/TT

Nobel2024-10-08 11:56

Geoffrey Hinton, professor vid University of Toronto, har kallats för AI-teknikens gudfader. Han blev minst sagt överraskad över beskedet.

– Det var som en blixt från klar himmel. Jag befinner mig på ett billigt hotell i Kalifornien utan internetuppkoppling, säger han via länk vid Vetenskapsakademiens pressträff.

Hans forskning ligger till grund för den nuvarande explosionsartade utvecklingen av maskininlärning, som han jämför med den industriella revolutionen.

– Men i stället för att den kommer att överträffa våra fysiska styrkor kommer den att överträffa oss intellektuellt. Vi har ingen erfarenhet av att ha saker som är smartare än oss, säger han.

Varnar för AI:s konsekvenser

Hinton känner ånger över vissa upptäckter – men skulle trots det göra om samma sak igen. Samtidigt känner han oro för risken att människan tappar kontrollen över systemen.

– Vi måste vara medvetna om de negativa konsekvenserna och undvika att saker spårar ur, säger han.

På frågan om vilket verktyg han själv använder i vardagen svarar han textroboten GPT4.

– Men jag litar inte helt på den, för den kan hallucinera också.

"Fortsatte när alla gav upp"

Geoffrey Hinton uppfann en metod som självständigt kan hitta egenskaper i data och därigenom kunna förstå att en digital bild – som i grunden är färgade pixlar – exempelvis föreställer en katt. Hans arbete bygger på medpristagaren John Hopfields uppfinning av ett nätverk som tillämpar en metod för att spara och återskapa mönster.

Danica Kragic, professor i datalogi på Kungliga tekniska högskolan, säger att pristagarna inspirerats av fysikens principer.

– De inspirerades av hur hjärnan och synapser fungerar. De tänkte "hur skulle vi kunna digitalisera det här".

1980-talets svaga datorer, arbetsminnen och svårigheten att digitalisera information begränsade inledningsvis nyttan med tekniken. Men Kragic tror inte att vi hade sett den explosionsartade utvecklingen av AI-verktyg utan pristagarna.

– Hinton fortsatte jobba på de här metoderna när alla andra gav upp, säger hon.

Vetenskapsakademiens ständige sekreterare Hans Ellegren tycker att det är roligt att prisa något som människor ser nytta av i sin vardag, vid användandet av AI-tjänster.

– En liten läxa vi kan lära oss är att det behövs den här grundläggande forskningen för att få innovationer och tillämpningar, säger han.

Fakta: Nobelpriset i fysik 2024

Motiveringen från Vetenskapsakademin lyder: "För grundläggande upptäckter och uppfinningar som möjliggör maskininlärning med artificiella neuronnätverk" och går till John Hopfield och Geoffrey Hinton.

De började studera neuronnätverk redan på 1980-talet, vilket ledde fram till den maskininlärningsexplosion vi bevittnat de senaste åren.

John Hopfield föddes 1933 i Chicago och är professor vid Princeton i New Jersey, USA.

Geoffrey Hinton föddes i London 1947, och är professor vid Univeristy of Toronto, Kanada

Så jobbar vi med nyheter  Läs mer här!