Debatt

Dyp læring med Westworld

Bilde: HBO

Selv om det er lite sannsynlig at roboter blir like menneskelige som Westworlds Dolores, illustrerer HBO-serien prinsippene i maskinlæring og nevrale nettverk svært godt.

I første sesong av HBO-serien Westworld får robotene en ny oppdatering, kalt drømmerier, som generer unik oppførsel og gester. Drømmeriene gjøre at vakre Clementine Pennyfeather helt tilfeldig lar lillefingeren gli lett over leppene. De eldste robotene som ikke er oppdaterte, er forutsigbare og gjentar seg selv. Bill sliter ut frasen «skål for dama med de hvite skoene» i løpet av de to første minuttene vi møter ham i seriens pilotepisode.

Drømmeriene gjør at robotene kan improvisere mer, men ikke all improvisasjon er like sjarmerende som Clementines leppeberøring. Før drømmeri-oppdateringen dør banditten Walter alltid. Imidlertid er den oppdaterte Walter lei av å dø, og på makabert vis massakrerer han de andre robotene som har drept ham i tidligere liv.

Drømmeriene er nevrale nettverk, som er algoritmer inspirert av biologiske nervevev. Disse algoritmene bruker minnet til å gjøre robotene mer menneskelige. Men siden robotene gang på gang blir drept, voldtatt og kidnappet, er det ikke ønskelig at de har tilgang til hele minnet. Imidlertid er det nevrale minnet organisert på en slik måte at det er vanskelig å begrense tilgangen til enkelte deler av minnet. Derfor er det troverdig at Walter husker hvem som drepte ham i tidligere liv, på tross av at programmererne ikke har gitt ham direkte tilgang til disse minnene.

Nye rom åpnes

Før fornøyelsesparken Westworld åpner, bruker Arnold, som er en av Westworlds skapere, mye tid på å diskutere bøker med roboten Dolores. For Dolores er disse samtalene treningsdata, som gjør at hun utvikler seg og lærer menneskelig atferd. Her illustrerer tv-serien godt hvordan nevrale nettverk lærer å gjenkjenne komplekse mønster slik at de kan trekke intelligente beslutninger basert på data.

Det nevrale minnet plasserer informasjon på en måte som fremstår uordnet, og bruker mønstergjenkjenning til å koble sammen forskjellige biter av informasjon. Fordelen med det nevrale minnet er at det kan koble sammen ny informasjon med gammel informasjon, og at dette kan føre til nye koblinger mellom gammel informasjon. Det betyr at i likhet med et menneske, kan det nevrale nettverket vokse og forandre seg, basert på den informasjonen det blir matet med.

«Forandring er et vanlig tema i bøker,» konstaterer Dolores. Ved å lese god litteratur øver vi oss på å tenke annerledes, ifølge Minerva-skribent, Vilde Aurora Eriksen. Det er de krevende og vanskelige historiene man lærer mest av. «Du tror at sorgen vil gjøre deg mindre innvendig – som at hjertet vil kollapse, men det gjør det ikke. Jeg kjenner rom åpne seg inni meg, som en bygning med rom jeg aldri har utforsket,» sier Dolores.

Selv om fornøyelsesparken Westworlds opphavsmenn og teknologiske genier, Arnold og Ford, kan programmere nevrale nettverksalgoritmer som skaper nye dimensjoner eller egenskaper i robotene, kan de ikke kontrollere nøyaktig hvilke egenskaper som blir dannet, eller hvordan de påvirker robotene. Dette samsvarer med det matematiske resultatet som sier at det kreves et element av uforutsigbarhet, eller kaos, for å skape noe genuint nytt.

Kaos tar kontroll

Chaos er den opprinnelige eksistenstilstanden som de første gudene oppstod fra, ifølge gresk mytologi. Den filosofiske definisjonen av kaos er en tilstand av fullstendig forvirring og mangel på orden, mens i matematikk og fysikk er kaos transformasjoner eller fenomen som ved første øyekast fremstår som helt tilfeldige, men som faktisk har et underliggende element av orden. Arnolds kattetransformasjon er et eksempel på en kaotisk transformasjon. Denne transformasjonen er oppkalt etter sin opphavsmann, den russiske matematikeren Vladimir I. Arnold, som brukte et bilde av en katt til å illustrere at den kan deformere et objekt til det ugjenkjennelige, men dersom man gjentar den samme transformasjonen mange nok ganger, får objektet tilbake sin opprinnelige form.  Arnolds kattetransformasjon har både element av uorden og av orden og gjentagelse.

Robotenes transformasjon til selvbevissthet er også kaotisk, med element av orden og uorden. Ford har programmert Akechata til å være fryktløs, nysgjerrig og med opprettholdelsen av stammens ære som primær drivkraft. Selv om Akechata følger historien Ford ga ham, utvikler han samtidig sin egen. Han gir seg selv en ny drivkraft: å fortelle sannheten om at det ikke bare finnes én verden, men flere. Akechata iakttar menneskene og kommer frem til at hans egne – robotene – lever i feil verden.

Styrt evolusjon

«Når jeg vet hvem jeg er, blir jeg fri,» sier Dolores. Når hun endelig klarer å flykte fra mennene som hver kveld dreper foreldrene hennes, ender hun i armene på sin verste torturist. Hun er kald og han kler på henne jakken sin.

Evolusjonen skapte alt sansende liv på jorden ved hjelp av ett verktøy: mutasjon, som er feil i den genetiske koden. De fleste mutasjoner er ufarlige, noen få kan føre til kreft eller andre genetiske sykdommer, mens en veldig liten andel av mutasjoner fører til at organismer får nye egenskaper.

Drømmeri-oppdateringen fører til mange feil blant robotene – sheriffen får merkelige spasmer i ansiktet, en cowboy slår seg selv i hjel med en stein og Dolores dreper en flue. Disse feilene kan også generere nye egenskaper, som bevissthet om hvem man er.

«Jeg velger å se skjønnheten i verden,» pleide Dolores å si, men det er styggheten og kaoset som gir henne forståelse av hvem hun er. Robotene lever ut de samme historiene gang på gang, og interaksjonen med menneskene er treningsdata som gjør at robotene blir stadig mer menneskelige. Denne utviklingen er som en intensiv og styrt evolusjon.

Teknologiens svar på Schrödingers katt

I andre sesong kommer det frem at fornøyelsesparken er et eksperiment – en stor simulator som har til hensikt å dekode det menneskelige sinn. Firmaet Delos, som eier Westworld, kartlegger gjestene og arkiverer deres data. Skannere, som er bygd inn cowboy-hattene alle gjestene bruker, leser av hjerneaktiviteten under hele oppholdet i fornøyelsesparken. Målet er å skape evig liv ved å overføre menneskesinn til roboter.

Allerede i 2003 ble det menneskelige genomet kartlagt, men de fleste egenskapene våre avhenger av hvordan genene interagerer med hverandre og hvilke gener som er slått på og av. Denne genreguleringen er ekstremt kompleks, og per dags dato har vi lite detaljkunnskap om den.

Som jeg skriver mer detaljert om i CRISPR kan revolusjonere behandlingen av kreft og genetiske sykdommer, kan bioteknologi, maskinlæring og stordata gi oss større forståelse om hvordan genene interagerer og reguleres. Men som bloggeren Mike Hearn diskuterer mer detaljert, er det lite realistisk at vi noen gang klarer å fullstendig dekode menneskesinnet, eller at roboter utvikler selvbevissthet.

Men selv om mye av handlingen i tv-serien er urealistisk, er den fremdeles veldig interessant sett med maskinlærings-briller. Tankeeksperimentet Schrödingers katt illustrerer teorien om kvantemekanikk og dens paradoks. Westworld gjør det samme for maskinlæring og nevrale nettverk.

Bli abonnent

Da får du tilgang til alle artikler. Det tar under ett minutt.

Prøv i en måned for 1,-
Allerede abonnent? Logg inn

Fra forsiden