Umělá inteligence zabíjí už i masově

obrazek
8.11.2018 08:42
Vybavujete si ještě usmrcení chodkyně s kolem v Arizoně taxíkem Uberu v tomto roce? Umělá inteligence vyhodnotila tehdy podnět jako falešně pozitivní, čili přiřadila signálu důležitost, jako kdyby auto "vidělo" igelitový pytlík. Nyní došlo k havárii letadla Boeing 737 nové generace v Indonésii, Zemřelo 188 lidí. Tentokrát naopak letadlo vyhodnotilo nějako pitomost jako vážné ohrožení. Ani v jednom případě nešlo o reakci inteligentní, jen AI, uměle inteligentní, artificial inteligent. Ale mělo to dopad na celý systém.

zdroj: https://www.nytimes.com/2018/11/07/world/asia/lion-air-flight-610-boeing-indonesia.html

"John Cox, bývalý výkonný předseda pro leteckou bezpečnost společnosti Air Line Pilots Association ve Spojených státech a nyní generální ředitel společnosti Security Operating Systems, poradenská firma, uvedl, že na rozdíl od předchozích verzí Boeing 737 má Max 8 automatizovaný systém který může ovládat letadlo a způsobit jeho ostré nasměrování strmě dolů bez pilotovy instrukce." a "Pan Cox, který létal 15 let starší generace Boeing 737, uvedl, že systém byl navržen jako automatická reakce, pokud senzory letadla detekují nebezpečí.

Arogance tvůrců systémů  umělé inteligence je strašná právě proto, že se jako arogance netváří. Ale i u aut platí, že dokud bude na silnici jediný živý člověk, vznikají situace pro systém umělíé inteligence nevypočitatelné, a a tedy vždy, protože chodci budou lidi stále. 

Bude třeba se těmto systémům vyhýbat a potírat je, co to dá, už proto, že i my v Čechách tu máme partu borců, kteří se na zavedení a spuštění  umělé inteligence do přímého provozu těší, a nemohou se dočkat. Jsou lidé, kteří si myslí, že s autonomním autem nebudou problémy, vždyť v nich zatím budou řidiči, kteří budou dohlížet, no jo, ale ti řidiči nebudou řídit, takže auto bude provozováno pod systémem, který nemá dobré reakce a řidič, který by mohl mít dobré reakce, jej řídit nebude, čili, podle pravidel slušného silničiního provozu, takové auto by nemělo mít na silnici co dělat. 

Bohužel, co se týká onoho arizonskho případu, první oficiální výstup, které okolo toho byl, zněl : pravidla pro automnmní auta se nebudou  zpřísňovat." A vy jste si, naivkové mysleli, že ten, kdo jej schválil pro silniční provoz, půjde sedět, a licence pro provoz bude odebrána. Tak to nehrozí, jsou v tom strašné prachy! 

Zůstává otázkou, kolik leteckých společností si nový model Boeingu 737 Max 8 koupilo, a kolik si dobře vyhodnotí poslední neštěstí a těchto letadel se zbaví.  Strach z létání se znovu stal plně oprávněným! 

****

zkusím ještě vvyargumentovat nutnou obranu, ale beru si na to týden. Dokud obranu nevyvineme, bude umělá inteligence zabíjet dále! 

 Zatím je zřejmé, že tvůrci těchto AI systémů vůbec nedbají ani prvního zákona robotiky - totiž že stroj nesmí ublížit člověku.  Žádnému. 

Problém je také v testování systému - zhruba pětina se děje v reálu, zbytek simulací - ale simulací v rámci exkustujícího nedokonalého systému, čili se ověřuje pouze, zda byly tištěné spoje dobře spájeny, nikoliv funkcionalita návrhu. 

9.11.2018 Umělá inteligence se tváří, jako kdyby řešila těžké opravdu těžké morální dilema - má autonomní auto zabít spíše zločince nebo psa? Takže už i ortely bez soudu. Nehledě na to, že toto auto dosud není vybaveno technicky tak, aby nezabíjelo vůbec. https://www.lidovky.cz/byznys/doprava/koho-ma-zabit-autonomni-auto-lide-by-nechali-radeji-prejet-kriminalnika-i-tlusteho-cloveka.A181108_162847_ln_veda_mber?fbclid=IwAR06HY7VLD1E0gk04GjVcAzFEly_Xhr9hVIrTZxt8Fi3Ns1sj7G9OvYYSKI

9.11.2018 v ČT24 v 11:40 hod vystoupil Ladislav Keller, kapitán Boeingu 737, ketecký publicista a expert z Ústavu letecké dopravy  ČVUT s tím, že výrobce  letadla obeslal všechny uživatele svého nového stroje s bulletinem, že se mohou vyskytnout problémy s indikátorem úhlu náběhu a co se dá dělat v takovém případě. https://www.ceskatelevize.cz/porady/10101491767-studio-ct24/218411058061109/

amiourful
Bioranger, členka Rómské demokratické strany, vášnivá sběračka hovínek, z nichž po domácku kuje zlato, správce i pro nefejsbukáře otevřené stránky Alternativní ekonomické školy proti dluhovému otrokářství

Komentáře

Pro možnost psaní komentářů se přihlašte nebo zaregistrujte.

Komentáře

klokan

   O skutečnosti, že přání bývá často otcem myšlenky, se v současné chaotické době vlastně přesvědčujeme denodenně až se zdá být možné, že současný systém restaurace kapitalismu u nás, byl na této okolnosti založen. Dalo by se uvažovat o aplikaci novozákonní myšlenky o odpuštění jim, když ani nevědí co činí. Zde však v žádném případě o nějakém odpuštění odpovědnosti nelze ani náznakem uvažovat. Tito arogantní namyšlenci, pohůnci vzniklé novodobé šlechty, by si přeci měli uvážit konečné důsledky těchto svých neuvážených činů, když hazardně balancují až na  hraně vyhubení existence nejen lidské civilizace ale i lidstva necivilizovaného, tedy jako takového. Vlastně většina našich čelných představitelů se ocitla ve stavu odtržení od běžné reality tuctových občanů a mají hlavu kdesi v oblacích mamonu, když jaksi nepostřehli, že jimi zaváděný systém se jim jaksi hroutí pod rukama. Chybou naší se stalo, že jsme se jimi nechali většinově ovlivnit až do té míry, že tento šlendrián tolerujeme.