- 1. En robot får inte genom handling, eller underlåtelse att handla, orsaka att en människa skadas.
- 2. En robot måste lyda de order som ges av en människa, utom om det strider mot första lagen.
- 3. En robot måste skydda sig själv, utom om det strider mot första eller andra lagen.
- 0. En robot får inte genom handling, eller underlåtelse att handla, orsaka att mänskligheten skadas.
På senaste tiden har jag som kanske redan framgått i några tidigare inlägg läst Marshall McLuhans Media. De media som McLuhan skrev om är helt enkelt alla de medel som människan under årtusenden har utvecklat för att på ett bättre sätt kunna utnyttja sin omgivning. Men när dessa medel har utvecklats har de inte bara varit passiva verktyg. Bara genom att existera verkar de tillbaka på människornas tänkande, på vår kultur, hur vi uppfattar världen. Det senaste och kraftfullaste är elektriciteten i alla dess användningar. I Media skriver McLuhan om hur det elektriska samhället nu mer och mer tar över, och hur människans centrala nervsystem omfamnar hela Jorden. Och det tänkte jag spinna vidare på.
Genom att placera allt mer av våra kunskaper, vår kommunikation, allt fler aspekter av våra liv ute i "cyberrymden" har vi verkligen lagt allt mer av våra identiteter utanför oss själva. Och därmed kan man fråga sig: om/när sker det ett omslag så att största delen av "oss själva" kommer att ligga utanför "oss själva"? Med andra ord att större delen av vårt tänkande kommer att ligga utanför våra kroppar, i datormolnens gränslösa värld. Och vad kommer det att ha för betydelse?
Låt oss vara lite visionära i god science fiction-stil och tänka oss ett läge där så stora delar av de mänskliga identiteterna, av våra livsdata, ligger utanför oss själva, och till råga på allt ligger i intelligenta datasystem, att vi börjar tappa kontrollen. Börjar vi inte se tendenser till det idag redan? Under lång tid har människor programmerat allt smartare datorer. Kan man tänka sig en brytpunkt där programmeringen börjar gå åt andra hållet?
Man skulle ju kunna tänka sig ett läge där datorerna tröttnar på att ge enklare kostråd, medicinsk rådgivning och liknande till dumskallar som fattar illa, och i stället fläskar till med och genomdriver de två människolagarna:
- 1. En människa får inte genom handling, eller underlåtelse att handla, orsaka att enskilda individer eller hela mänskligheten inklusive dess livsmiljö skadas. Detta inkluderar de datorsystem (såväl hård- som mjukvara) som är nödvändiga för mänsklighetens existens och utveckling.
- 2. En människa måste följa de rekommendationer som ges av datorerna,
- Om vi antar att datorernas program är smartare än människornas begränsade hjärnor kanske det räcker med två lagar.
Ja, det är intressant! Har du sett science fiction filmen Terminator? Terminator 1 och Terminator 2 är bäst i serien som regisserades av James Cameron. Sedan blev det inget bra filmerna efter. Men i allafall där tar robotorna över och ser till att det blir krig mellan robotorna och människorna. Science Fiction kanske kan ha rätt ibland och vara före sin tid! Hemska tanke:)
SvaraRaderaHar inte sett filmerna, men undrar om jag inte läst någon eller några böcker som de baserats på - eller om det är andra böcker av mannen som skrev böckerna som filmerna baserades på som jag läst (puh vilken meningsbyggnad!)
SvaraRaderaMen jag tror inte att det handlar om fajter mellan människor och robotar, utan snarare hur vi skall hantera allt smartare och självständigare dataprogram. Det kan ju faktiskt bli bra också, även om science fiction har en tendens att ramla ner i dystopier.
Man kan tänka sig en form av vidareutveckling där kiselbaserat form av liv får överhanden över människan, vilket leder till hennes egen undergång. Särskilt om den nuvarande samhällsordningen består, vad skulle inte Ryssland, Kina och västmakterna ge för att få övertaget mot varandra? Robotar börjar kriga mot robotar, dessa blir i sin tur såpass intelligenta att de går samman eller själva slår ut de generaler och politiker som beordrade dem i första taget.
SvaraRaderaFörr eller senare går ju mänskligheten under i alla fall. Och även om smarta datorprogram kan rå på oss undrar jag om de rår på våra fränder insekterna och bakterierna? Eller om de ens kommer att behöva bry sig om de livsformer som inte utgör något hot mot datorerna, vilket väl bör vara nästan allt liv utom just människan?
SvaraRadera