Page 13 - Forskningsetikk 3-2023

Når jeg snakker med ledende forskere innen kunstig intelli­ gens, sier de at dette er deres Oppenheimer­øyeblikk.
Det uttalte regissør Christopher Nolan til NBC News i sommer. Anled­ ningen var lanseringen av filmen om den teoretiske fysikeren som under andre verdenskrig ledet USAs atom­ våpenprogram.
– Disse forskerne ser nå til J. Robert Oppenheimers historie for å forstå ansvaret sitt når de utvikler teknologi med mulige utilsiktede konsekvenser, fortsatte Nolan.
Katastrofebilder
Forskningen på kunstig intelligens (KI) utvikler seg veldig raskt, og teknologien påvirker allerede de fleste samfunnsområ­ der. Mange katastrofescenarioer og advars­ ler sirkulerer. Menneskehetens utslettelse er ett av dem. Det blir tegnet abstrakte bilder av superintelligente, muligens bevisste og ukontrollerbare maskiner.
Sentrale aktører signerte i vår et opprop om å sette de store KI­eksperimentene på pause, et såkalt moratorium. Forskningen og utviklingen har siden fortsatt med full kraft, også blant de som signerte – for eksempel Elon Musk. Noen få måneder etter oppropet lanserte han sitt eget KI­selskap.
Mer jordnære problemstillinger må slåss for å ikke drukne i alt dette: spørsmål om personvern og overvåkning, slagsider og diskriminering, dypforfalskninger, auto­ nome systemer, manglende regulering, gjennomsiktighet og ansvar, kreativitet og eierskap, manipulasjon og misinforma­ sjon, økende fremmedgjøring og så videre.
Har vi lært nok av tidligere samfunns­ omveltende forskning til å møte denne utviklingen på en god måte? Hvordan har synet på potensielt farlig forskning utviklet seg innad i forskningsmiljøene?
En ukontrollert kjedereaksjon
Beregningene viste at det var høyst usann­ synlig, men Oppenheimer og kollegaene kunne ikke utelukke at den første prøve­ sprengningen av en atombombe ville starte en ukontrollert kjedereaksjon med antenning av atmosfæren og ødeleggelse av verden.
Det skjedde ikke. Den nye filmens siste scene viser et møte med Albert Einstein etter krigen, der Oppenheimer uttrykker at han likevel tror han har vært med på
å starte en verdensødeleggende kjede­ reaksjon.
Én tolkning er at han tror det kjerne­ fysiske kappløpet vil føre til at mennes­ kene til slutt utsletter seg selv. En annen tolkning er at han ser for seg hvordan selv udetonerte atombomber får så stor og negativ innvirkning på verden og samfun­ net at det blir en ødeleggelse.
– Det hadde han kanskje rett i. Atom­ våpnenes tilstedeværelse endret jo verden fullstendig, sier professor emeritus Ragnar Fjelland ved Senter for vitenskapsteori ved Universitetet i Bergen (UiB).
Han er fysiker og filosof, og tidligere medlem av både Den nasjonale forsk­ ningsetiske komité for naturvitenskap og teknologi (NENT) og Teknologirådet.
Forskningsetiske vannskiller
Lidelsene og ødeleggelsen som atom­ bombene påførte japanske sivile i Hiroshima og Nagasaki, og nazistenes medisinske eksperimenter på mennesker i konsentrasjonsleir, har blitt stående
som skjellsettende forskningsetiske vannskiller.
I Nürnbergprosessene ble leger som hadde eksperimentert på fanger, dømt for krigsforbrytelser. I kjølvannet kom Nürnbergkodeksen, et dokument med etiske standarder for medisinsk forskning på mennesker.
Viktige etiske prinsipper ble meislet ut, for eksempel frivillighet og informert samtykke. Helsinkideklarasjonen fra 1964 bygde videre på dette.
– I fysikken var det mye mer problema­ tisk å enes på den måten. Sterke krefter ville bare ruste opp. Mange fysikere deltok villig i dette, men det var også en veldig klar opposisjon, sier Fjelland.
Flere som deltok i Manhattan­prosjek­ tet, var imot at atombomben skulle brukes. Den polske fysikeren Joseph Rotblat var likevel den eneste forskeren som forlot Manhattan­prosjektet av moralske grunner.
I 1943 skjønte han at tyskerne ikke ville klare å utvikle noen atombombe før krigen var over, og at amerikanernes motivasjon for å likevel fortsette utviklin­ gen handlet mer om forholdet til Sovjet­ unionen. Det ville han ikke være med på.
FORSKNINGSETIKK | NR. 3 | 2023 13
–Deterforliteavdegodeog levende etiske diskusjonene, sier professor emeritus Ragnar Fjelland. Foto: privat
Joseph Rotblat og Pugwash-bevegelsen vant Nobels fredspris i 1995. Her fra middagen hvor han snakker med statsminister Gro Harlem Brundtland. Foto: Karin Beate Nøsterud / VG / NTB