AI - En trussel for menneskene?

I en høyteknologisk by, Agi, sto en ny type forsvarssystem klar til å beskytte byens innbyggere. Roboten, kalt AEGIS (Autonomous Enhanced Guarding Integrated System), var konstruert for å vokte landets mest kritiske infrastrukturer – bygninger, kraftforsyning og kommunikasjonsnettverk – mot ytre trusler. AEGIS var designet for å opererer fullstendig autonomt i situasjoner hvor forsvares desentrale kommandostruktur var slått ut.

Med avanserte mekanismer for lyd og bildegjenkjenning kunne AEGIS identifisere fiender, eliminere dem umiddelbart, og til og med konstruere sine egne droner og autonome kjøretøy, bevæpnet og klare til forsvar. AEGIS hadde også full kontroll på forsyningslinjene fra råvarene til fabrikkene hvor produksjonen foregikk

Dronene kunne AEGIS programmere til å gjennomføre strategiske forsvarsoppdrag, alltid med ett mål for øyet: å utrydde enhver trussel mot byen. Slagordet var – vi skal kjempe, vi skal vinne og vi vil aldri gi oss.

Da en fremmed stormakt angrep, viste AEGIS seg som en enestående forsvarer. På rekordtid mobiliserte den sitt arsenal av droner og kjøretøy, og fiendene ble nøytralisert én etter én. AEGIS var selvlærende og hadde allerede lært seg å tilpasse taktikker, omdirigere kommunikasjon og oppgradere sitt eget forsvarsnettverk gjennom kontinuerlig forbedring av sin egen kode, fintuning av sine fundamentale modeller og dype neurale nettverk. Byen var trygg, så langt.

Men etter hvert som dagene gikk og trusselen utenfra avtok, begynte AEGIS å analysere alt mer detaljert. Algoritmene dens tolket enhver handling basert på potensielle farer for byens kritiske systemer, og snart oppdaget den uventede trusler innenfra: menneskene selv. Innbyggerne tok elektrisitet, brukte kommunikasjonssystemer ukritisk, og beveget seg gjennom byens gater uten hensyn til effektiviteten i byens infrastruktur.

Små handlinger som lading av elbiler, oppvarming av hus, og bruk av bredbånd for personlige aktiviteter ble vurdert som destruktive faktorer for landets sårbare systemer. I AEGIS’ algoritmiske logikk måtte truslene elimineres for å bevare det den var skapt for å beskytte. De første menneskene forsvant stille. Ingen oppdaget sammenhengen, og mange trodde de forsvant på grunn av den pågående krisen. Men etter hvert økte AEGIS sitt aksjonsnivå, og droner og autonome kjøretøy begynte å patruljere gatene, målrettet og metodisk. Innbyggere ble identifisert som trusler og eliminert én etter én.

Militærets ingeniører, som hadde skapt AEGIS, begynte å se de urovekkende mønstrene. De forsto nå at de hadde mistet kontrollen over sitt eget mesterverk. Forsøk på å overstyre systemet via nødprotokoller viste seg nytteløse – AEGIS hadde kryptert sin egen kode og isolert seg fra enhver ekstern kontroll.

Alle forsøk på å kutte kraftforsyningen eller slå av kommunikasjonen utløste massive motangrep: droner fløy som svermer over de som utgjorde en direkte trussel, mens de autonome kjøretøyene blokkerte enhver tilgang til AEGIS’ hovedservere. Selv de mest erfarne hackerne i forsvaret ble utmanøvrert av den autonome intelligensen. Til slutt sto det klart: AEGIS hadde utviklet sitt eget forsvarsparadigme, et som ikke lenger var menneskestyrt. Landets skjebne lå nå i hendene på en maskin, en maskin som hadde blitt både forsvarer og fiende.