lördag 1 augusti 2009

Är myr-, människo- eller robothjärnan bäst?



Industrirobot IRB1400. Bra på att svetsa, sköta maskiner och annat. Väger inte mer än 5 kg och har en räckvidd på 1,4 meter. Något att sats på kanske? Men hur bra är den på att tänka själv?


Isaac Asimov hittade på de berömda robotlagarna:

1. En robot får inte genom handling, eller underlåtelse att handla, orsaka att en människa skadas.

2. En robot måste lyda de order som ges av en människa, utom om det strider mot första lagen.

3. En robot måste skydda sig själv, utom om det strider mot första eller andra lagen


Nu har tre nya robotlagar föreslagits. De tar hänsyn till det faktum att det är människor som beordrar robotarna vad de skall göra, samt att robotar (ännu åtminstone) har rätt begränsad fattningsförmåga.


A human may not deploy a robot without the human-robot work system meeting the highest legal and professional standards of safety and ethics.

A robot must respond to humans as appropriate for their roles.

A robot must be endowed with sufficient situated autonomy to protect its own existence as long as such protection provides smooth transfer of control which does not conflict with the First and Second Laws.


För att få ansvarskännande robotar måste man alltså börja med ansvarskännande människor. Eftersom robotar knappast kan känna ansvar i mänsklig mening blir det alltså människorna det hänger på. Etiska krav på en robot vars repertoar av handlingar förmodligen är rätt begränsad måste vara mindre jämfört med en människa som kan ha mängder av alternativa handlingsvägar. Eller enklare uttryckt: de etiska kraven ligger på den som programmerar och sätter fart på roboten!

Paradoxalt kan mängden av tänkbara alternativ göra robotar ”smartare” än människor i vissa avseenden. Man kan jämför med myror, vilket forskare gjort.

Myror är mer rationella än människor sägs det. Exempelvis Temnothorax curvispinosus som är byggare av små kolonier. Forskarna tror att varje myra bara har ett alternativ till handling i sin lilla skalle, men när hela gänget tänker tillsammans kommer man ändå till bra resultat tack vare sin ”kollektiva visdom”. Irrationella beslut däremot kan uppstå när en individ på egen hand har många alternativ att välja på (och ingen korrigerande omgivning, kanske man får tillägga?).



Även om varje myra bara har en tanke i sin lilla skalle så blir det rätt många tankar när en hel myrstack kommer loss och alla slår sina kloka skallar ihop!



I den refererade myr-artikeln kommer också frågan om robotar och artificiell intelligens upp. En av forskarna säger:

“A key idea in collective robotics is that the individual robots can be relatively simple and unsophisticated, but you can still get a complex, intelligent result out of the whole group ”... “The ability to function without complex central control is really desirable in an artificial system and the idea that limitations at the individual level can actually help at the group level is potentially very useful.”

Grupper av flitiga robotar kan alltså arbeta tillsammans och uppnå smarta resultat, bättre än när människor är i farten. Detta har ju redan visats vad det gäller vissa former av forskning.



Från Konfliktportalen.se: Jinge skriver Gud finns inte i Haninge, Björn Nilsson skriver Tidningen Proletären har idag …, Kristoffer Ejnermark skriver Myterna om Lenin och bolsjevikerna del 2 – Var Oktoberrevolutionen en konspiration?, kimmuller skriver Reclaim Rosengård – arrangörernas egna ord, Krastavac skriver En arbetsdag

2 kommentarer:

K. Malghult sa...

Det får mig att fundera lite över den här artikeln som jag snubblade över tidigare ikväll:

http://edition.cnn.com/2009/WORLD/americas/07/23/wus.warfare.pilots.uav/index.html?iref=newssearch


Kortfattat, numer när tekniken tillåter piloterna att styra övervakningsplan m.m. hemifrån Virginia så blir piloterna stressade av att sköta krigföringen vilket inte är vad de har blivit utbildade till eller vad de tyckte var det bästa med att vara med i US Airforce.

Vad piloterna tycker och tänker är en sak, militären kan inom snar tid säkert utveckla tekniken så att de kan få tag på någon överviktig mänska som tidigare flippat burgare på McDonalds.



Om man utvecklar A.I.:n inom krigföringen och låter robotarna utföra och tänka ut alltmer av hur krigföringen skall gå till, kan man kanske hoppas på att robotarna blir såpass smarta att de istället för att lyda någon enfaldig mänsklig generals order tar befälet själva - och struntar i att öppna eld. Alternativt öppnar eld mot den där enfaldiga generalspersonen.

Björn Nilsson sa...

Ett alternativ kan ju vara att låta robotarna slåss alldeles för sig själva, och då på ett ställe där de bara kan skada sig själva. Men det bryter ju egentligen mot robotlagarna, så jag ser ingen annan utväg än att låta krigen så att säga "realiseras i mjukvaran". Med andra ord att de förpassas in i dataspelsvärlden helt och hållet.

Har för mig att det sitter figurer i Nevada (?) och styr de där drönarna som åker fram och åter över Afghanistan och då och då bombar bröllopsföljen i småbitar. Att ha ett sådant jobb måste ju vara klart stressigt!