Čtvrtý zákon robotiky

pátek 3. prosinec 2010 12:00

Isaac Asimov vymyslel tři zákony robotiky tak, aby nám roboti dobře sloužili a neubližovali. Vzhledem k tomu, jak bujnou měl tento klasic scifi fantazii, by se asi ani nedivil nástupu robotů, kteří se budou řídit „čtvrtým zákonem robotiky “. Ten dovolí robotovi zabíjet ty lidi, proti kterým ho naprogramujeme.

Už ani vojclové nejsou, co bývali. Tak třeba nedávno si jeden americký vojín na zahraniční bojové misi půjčil bez vědomí nadřízeného jeho laptop s přístupem do databází tajných dokumentů, nahrál všechny ty „tajné“ a „přísně tajné“ soubory na cédéčka maskovaná jako nahrávky s písničkami, vynesl je z vojenských prostor a přes WikiLeaks je pustil do světa.

Není divu, že se hledá spolehlivější model vojína, který by netrpěl frustrací, deziluzí, pochybnostmi o smyslu války a poslušně dělal, co se mu řekne. Zdá se, že se vyhlídka na takové "na 101 % spolehlivé vojáky" rýsuje v robotických vývojových střediscích. Zatím se vyskytují tito robotničtí vojáci především v trénu. Plní nebojové úlohy a navíc podléhají přímé kontrole vojáků z masa a kostí. Takový bezpilotní výzvědný letoun není vlastně nic jiného, než robot opatřený křídly a příslušným pohonem. Občas někdo vyrobí robota s palnou zbraní, ale ten zatím netiskne spoušť z vlastního popudu. Je to ve své podstatě zbraň na dálkové ovládání. Aktivita bezpilotního letounu už se nemusí omezovat jen na focení a filmování krajiny a lidi ze závratných výšin. Když dojde obsluha k závěru, že by to „stálo za ránu“, může na vybrané místo vypálit z letadla střelu potřebného kalibru. Pak už nezbývá, než doufat, že dole vyletí do povětří terorista a nikoli nic netušící rolník okopávající záhon se zelím a že následně nebudeme svědky scén jako vystřižených z  filmu s psychiatrem Chocholouškem, kde se politováníhodné omyly rovněž stávají jen jednou za deset let.

Příval nejrůznějších technologických vymoženosti mění svět kolem nás v záplavu dat. Pomocí speciálního radaru lze prý provést letecké snímkování, při kterém éro s příslušnou aparaturou během jediného přeletu zmapuje archeologickou lokalitu ve třech rozměrech se „submilimetrovým rozlišením“. Data se hrnou i na vojáky operující v terénu. To, že vedle nich teče potok, vidí vojáci na vlastní oči a slyší na vlastní uši. Mohou však získat informace o tom, kolik v potoce právě teče vody, které mosty ještě stojí a které odnesla voda nebo je vyhodil do vzduchu nepřítel.  V budoucnu bude třeba možné vyčíst z dat o vodě v potoce i to, že si v něm před dvěma hodinami dvacet kilometrů proti proudu mylo prsty umazané od kebabu pětatřicet talibánců. Každopádně toho bude na jednu lidskou hlavu pod přílbou trochu moc.

Nebylo by lepší, aby data vyhodnocoval umělý mozek v lebce umělého vojáka? Mohli bychom pak do boje posílat roboty naprogramované tak, aby našli a zahubili ty, které podle důmyslných algoritmů vyhodnotí jako nepřítele. První tři zákony robotiky budou platit dál. Podle prvního nesmí robot ublížit člověku nebo nečinností dopustit, aby člověk došel k újmě. Podle druhého bude robot nucen vykonat všechny příkazy člověka, které nejsou v rozporu s prvním zákonem. Podle třetího zákona bude robot chránit sebe, pokud se tím nedostane do konfliktu s prvním či druhým zákonem. Čtvrtý zákon robotiky jednoduše určí: „Nepřítel není člověk.“  Nebude to žádná novinka. Po tisíciletí platilo v křesťanských zemích přikázání: Nezabiješ!, a navzdory tomu bylo vraždění nepřátel považováno za bohulibou činnost. "Odlidštěného" nepřítele nebude muset robot chránit ani poslouchat a nebude nucen se pro něj obětovat. Na základě prvního zákona bude i nadále poslouchat svého „člověčího“ velitele. V intencích druhého zákona pak na rozkaz „Člověka“ toho nečlověčího „Nepřítele“ zastřelí, otráví, infikuje antraxem nebo ozáří radioaktivitou. Na základě třetího zákona se bude robot při bojové činnosti důmyslně krýt, aby jej nepřítel nezasáhl. Věřím, že generálové vystačí pro takový způsob boje s jednoslovným komentářem: Dokonalé!

Za vývojem robotů, kteří se neztratí ve vřavě bitevních polí, nemusíme chodit do vojenských vývojových kanceláří a dílen. Už dnes se vyvíjejí roboti pro záchranné mise. Měli by zachraňovat zdraví a životy lidí při povodních, zemětřeseních, požárech a dalších pohromách. Zachovat si chladnou hlavu tváří v tvář rychle stoupající hladině potůčku, který se vám před očima mění na cosi jako Orinoko, není žádná legrace. Robotický mozek asi ještě nějakou dobu nepozná strach, ale bude mít se zvládáním chaotického prostředí krajiny přeorané běsněním živlů rovněž řadu problémů. Dá se však předpokládat, že nakonec to konstruktéři robotů a jejich elektronicko-kovovo-plastově-kompozitová dítka zvládnou. Robot, který si prorazí cestu ke zraněným turistům třeba šumavským  hvozdem zpřeráženým náporem uragánu, se stejně dobře popasuje i s vystopováním a likvidací partyzánské buňky v lesích Kordiller. Jen na konci mise sáhne pokaždé po jiných nástrojích. Robot-záchranář  po dlahách, obvazech a lécích na tišení bolesti. Robot-výsadkář po automatické pušce a zásobníku.

Bylo by hloupé volat po zákazu vývoje „robotů-záchranářů“ jen proto, aby je nakonec někdo neoblékl do uniforem a nehodil jim na záda kalašnikov a plnou  polní. Stejně tak by ale bylo naivní ignorovat problémy nastíněné oborem, jenž začíná být označován jako roboetika. Až budeme stát před otázkou, zda máme za vyvraždění civilistů postavit před mezinárodní soud pro válečné zločiny robota, jeho konstruktéra nebo generála, který dal rozkaz k ofenzívě robotických vojsk, bude pozdě. Nejen pro ty mrtvé civilisty. Pro nás pro všechny.

Jaroslav Petr

Martin Toráč - robot5. zákon robotiky19:3911.11.2015 19:39:01
Janačtvrtý zákon robotiky07:1514.12.2010 7:15:35
Air Jordan ShoesAir Jordan Shoes14:0313.12.2010 14:03:50
Petrnultý zákon robotiky23:044.12.2010 23:04:50
TeplíkNedávno jsem četl19:333.12.2010 19:33:17
p. victorinFilosofování, a Proč ne?12:053.12.2010 12:05:53

Počet příspěvků: 6, poslední 11.11.2015 19:39:01 Zobrazuji posledních 6 příspěvků.

Jaroslav Petr

Jaroslav Petr

Blog se zabývá vědou, novými vědeckými objevy, jejich společenskými dopady a etickými aspekty. Blog byl Národní knihovnou ČR zařazen do České národní bibliografie a je archivován v rámci jejího projektu WebArchiv.

Ve Výzkumném ústavu živočišné výroby, v.v.i. se zabývá reprodukční biologií hospodářských zvířat. Přednáší biotechnologii živočichů na České zemědělské universitě v Praze a na Jihočeské univerzitě v Českých Budějovicích. Ve volném čase se věnuje popularizaci vědy. Spolupracuje s Českým rozhlasem, Lidovými novinami, různými časopisy a internetovými servery, např. Vesmír, Příroda, XB1, 100+1, 21. století, VTM aj.

REPUTACE AUTORA:
0,00

Seznam rubrik

Tipy autora

tento blog
všechny blogy