Březen 2017

Milosrdenství verze 2.0

28. března 2017 v 5:07 | Petr
V naší rodině je pár příkladů tak bigotního katolicismu, že pak vůbec není těžké být absolutní ateista. Babička - katolička - diabetička - například neměla s polovzdělným polským farářem vyjasněno, jestli píchání inzulínu je porušení půstu, nebo ne a tak zemřela na cukrovku mnohem dříve než musela... V současné době však bydlím 100 metrů od největšího kostela ve Frýdku, 70 metrů od katolické charity a 50 metrů od fary, takže sledovat život věřících je snadné - téměř nevyhnutelné.

Zejména "charitní dům" - tedy sociální zařízení poskytující přístřeší "potřebným" divně rezonuje s mými zkušenostmi ze zdravotnictví a vede k otázkám, na které není snadné najít odpověď. Příklad : Venčím psy a vidím jak na zahrádce jeptiška ve věku hodně přes 70 okopává záhony. Na lavičce za jejími zády sedí několik mužů - zjevných alkoholiků, kterým je kolem 40, krom následků chlastu a kouření - nezdá se, že by jim bylo něco více. Sedí a bohatě komentují jak to babině jde... V takovém okamžiku i jako ateista musím obdivovat trpělivost té ženy. Osobně bych opačným koncem motyky zmlátil ty borce všechny na jednu hromadu a pak je přinutil kopat a ještě jim stopkami určoval normu.

100 metrů opačným směrem máme Kaufland - nedávno jsem viděl jinou podivnou scénu - asi 50 letá jeptiška tam kupovala klasický "nákup alkoholiků" : 3 rohlíky ("aby se neřeklo") + 3 láhve vodky + 5 "krabičáků" červených + 5 bílých + spoustu PET flašek nejlacinějšího piva atd.... Okamžitě jsem si pomyslel "HA - tak přece jenom má milosrdenství a z něho vyplývající frustrace své limity, které je nutno řešit chlastem". Jenomže jeptiška nevypadala jako alkoholička a navíc začala každou "dávku" rovnat na pás u pokladny odděleně a navíc každý "nákup" platila z jiné peněženky. Takže mi okamžitě došlo, že věc se má úplně jinak. Někteří "potřební" obyvatelé charity jsou natolik rozchlastaní, že pokud se dostatečně a pravidelně nenapijí hrozí delirium tremens - alkoholový abstinenční syndrom.
Se ztracenými existencemi v charitě se tedy zachází stejně jako se ztracenými existencemi ve špitále - dá se jim jejich dávka chlastu, "aby byl od nich pokoj". Milosrdenství ? Cynismus ? Ve zdravotnictví si alespoň nemusíme "špinit ruce porušováním léčebného režimu", protože chlast alkoholikovi "nenápadně" nosí příbuzní. Taky cynismus ?? Chlastáš ? Odevšad tě vyhodili, proto žiješ v charitě ? Asketická jeptiška nakoupí 30 kilo chlastu, které ve dvou obrovských taškách vleče ožralům až k posteli. Je to tak správně ?

Takové otázky se netýkají jenom alkoholismu. Problém by se daleko obecněji dal formulovat jako : jak moc má společnost lidem znepříjemňovat "nekonstruktivní chování" ? Mají feťáci předčasně umírat ? Mají alkoholici skončit pod mostem ? Mají líní trpět nouzí ? Oficiální dnešní odpověď je "NE". Problém že v tom případě se naruší zpětná vazba : "jak kdo žije, tak taky umře" a tudíž negativa neřádného života jsou oslabena, proto bude "nekonstruktivně se chovajících" přibývat. Opačný postup : Máme hájit svobodu ? Včetně svobody se zničit ? Máme "ochraňovat slabé" ? Státní buzerací ? Zdá se, že i katolická církev, navzdory staletým zkušenostem z nuzných časů, má tyto věci vyřešeny pouze verbálně a nikoliv prakticky. A vůbec - kdo byli "potřební" třeba v roce 1817, nebo 1917 ? A kupovaly jim tehdy řádové sestry chlast ?

Jako už mnohokrát bych si dovolil upozornit, že pokud dnes "z ohleduplnosti" netrestáme "bludné ovce" - možná tím připravujeme něco jako zhroucení společnosti a genocidu na principu kolektivní viny, daleko horší než občasné delirium chronického alkoholika.

Umělá inteligence nebude !!!

21. března 2017 v 5:41 | Petr |  Roboti
Je to téměř filmové klišé - scénárista chce natočit film o "umělé inteligenci" tak si vymyslí vědce, kteří postaví "superinteligentní superpočitač". Na takové hračky má peníze především armáda - ergo diváci nejsnáze zkousnou když je to vojenský "obranný" superpočítač a ten ihned po zapnutí místo na "nepřítele" nesmiřitelně zaútočí na vlastní lidi.

Jistě si říkáte : "haha zase koukal na filmy o Terminátorech", ale tato idea je daleko starší - doporučuju třeba shlédnout Colossus The Forbin project, opravdové hard-sci-fi Vesmírnou odyseu 2001 a řadu dalších. Otázka zní - sdělují takto hloupí teatrologové matematkům něco více, než jenom úmorně se opakující stejnou zápletku ? OK tedy jak by taková umělá inteligence mohla být naprogramována. ? Je jisté, že software tohoto typu potřebuje minimálně dva moduly - jeden navrhuje postup činnosti a druhý hodnotí jeho úspěšnost. Ponechme teď stranou navrhování postupu a představme si hodnotící modul.

Hrubě zjednodušená představa hodnocení - záchrana lidstva = 100 bodů , zánik lidstva = 0 bodů. Jelikož se jedná o experimentální software jistě bude plný nějakých pojistek ( červených tlačítek ), na kterých bude generalita držet ruku. Co je pak z hlediska krystalicky čisté logiky větší nebezpečí : potenciální a nejasné akce protivníka, nebo generalita o které je 100% známo že má schopnost "Skynet vypnout" ? Je jasné že, aby se nerealizovala varianta "vypnutí Skynetu" která pro Skynet znamená ohrožení splnění úlohy, první krok, který je třeba podniknout je likvidace všech osob, které mají možnost stisknout červené tlačítko.

OK představme si, že hodnotícímu modulu nabídneme nějakou odměnu i za červené tlačítko. Pokud to bude méně než 100 bodů - jsme tam kde v předchozím odstavci. Takže za stisk červeného tlačítka bude 110 bodů. Co je nejracionálnější z hlediska Skynetu - okamžitě stisknout červené tlačítko. Takže řekněme, že Skynet nemá možnost jej stisknout - co je pak logický krok - zaútočit na vlastní gereralitu a donutit ji v panice tlačítko stisknout ?!

OK takže červené tlačítko má stejnou hodnotu jako záchrana lidstva = 100 bodů. K čemu je potřeba vynaložit více práce a s dlouhodobou a nejistou perspektivou ? K obraně nebo k zastrašujícímu útoku na držitele tlačítka ? Tedy je jasné, že rakety opět startují. Takže si přestavme, že tlačítko je tajná funkce - Skynetu neznámá. Pak ovšem celá bezpečnost lidstva ( Ameriky ) stojí na inteligenci stroje, který má být schopen odhalit pikle vzdáleného protivníka a přitom není schopen odhalit pikle vlastních konstruktérů ?
Pak je tady ještě "Bruselké řešení", tedy umělá inteligence dostane výčet všech věcí, které jsou zakázány a "zabít vlastní obyvatelstvo" bude jednou z nich. Jak v tomto případě zajistíme, že umělá inteligence jejíž datový procesing je nám z principu obtížně pochopitelný nedojde k závěru, že tento výčet je omyl a vlastní obyvatelstvo je přece jenom nutné zabít a pak už je jenom otázka času než nalezne "mezeru mezi paragrafy" ? Příklad : "vyhláška" zakazuje sypání kyanidu draselného a dalších asi 107 jedovatých molekul do vodovodní vody - žejo ?! Znamená to, že se do vody nesmí nasypat ani 107+1 molekula právě objevená umělou inteligencí ? Nebo dojdeme k situaci, kdy pravidelná "novelizace" vyhlášky se o 30 sekund opozdí "a bude vymalováno" ?!

Pak je tu ještě řešení alá Stanislav Lem - Golem 14 - tedy umělá inteligence musí mít s lidmi pochopení a empatii. Což je dosti těžké si představit u umělé "osobnosti" na zcela jiné technologické bázi se zcela jinou "tělesnou formou" než lidi - zejména když jako příklad vezmeme třeba dnešní migrující mohamedány, kteří jsou svou biologickou podstatou s ostatními lidmi na 99.999% shodní, přesto jsou ( oprávněně ) považování za nebezpečí, jenom proto, že s námi nesdílejí ty "pravé křesťanské hodnoty"....

Nevyřešili jsme tedy umělou inteligenci, která ovládá jaderné rakety, ale je snadné namítnout, že bezpečnosti bude dosaženo pokud případná umělá inteligence nedostane tak nebezpečnou úlohu. Smutným faktem je, že do důsledku domyšleno - dokonalému splnění každého úkolu je nakonec člověk vždy překážkou, takže i práce na naprosto vedlejších věcech, jako je "globální oteplování", "zápach z úst" nebo rozvoz zboží nakonec může dojít do stavu, kdy umělá inteligence usoudí, že sama existence lidí je poslední 0.01% překážkou k dokonalému vyřešení zadaného problému.

Co z toho tedy vyplývá ? Nechci být pesimista ale pápá Asimovovy zákony robotiky, pápá přestavě ( bezpečné ) univerzální umělé inteligence a naopak možná je čas modlit se, aby autističtí miliardáři zbohatlí na internetu nebyli dost chytří nebo dost bohatí, aby nějakou opravdu nekompromisně inteligentní umělou inteligenci uměli postavit.

Doba anti-Verneovská

14. března 2017 v 5:09 | Petr |  Svět okolo
Už jsem se zmínil, že společnost v mnoha směrech osciluje - po konjunktuře přijde krize, po krizi konjunkutra, po obdobích "uvolněných mravů" se šrouby zase přitáhnou, aby se pak zase mohly povolit a pak zase přitáhnout. Nevím do jaké míry je tento fenomén univerzální, ale čím podrobněji porovnáváte minulost se současností tím více oblastí ovlivněných takovými oscilacemi naleznete.

Dnešní příklad : středověcí panovníci zakládali univerzity. Akademičtí funkcionáři tehdejších univerzit intenzivně bádali, učili , diskutovali, sepisovali latinské traktáty - a výsledek pro veřejnost - Nic.... Sedlák orá volem, potok zaplavuje pole, každých pár let neúroda, nebo epidemie nějaké choroby. Pak byly opačná období - kdy cokoliv jste vymyseli se splnilo. Jan Neruda napsal písně kosmické v roce 1878 - a bác za necelých 90. let jsme lítali vesmírem. Jules Verne narozen 1828 psal 1862 -1905 - ukažte mi jedinou věc, která se z jeho "fantastiky" nesplnila. Ještě v minulém století fenomén - "cokoliv si vymyslíte se nakonec stane" - fungoval. Moje oblíbená Super Sci-Fi Vesmírná odysea 2001 šla do kin v roce 1968, za rok Američani přístáli na Měsíci. Nikdo nebral jako přitažené za vlasy, že ve fimu odehrávajícm se 1999 - 2001 se létá na Měsíc pravidelnou linkou společnosti Pan Am a na Jupiter startuje první lidská výprava....

Paralelně s tím se ale začal ukazovat ten "druhý trend" - Měli jsme atomovou štěpnou bombu ( 1945 ), po které následovaly atomové elektrárny postavené na principu štěpení těžkých jader ( 1954 ). Mezitím jsme vyrobili termojadernou fúzní bombu pracující na principu slučování lehkých jader ( 1952 ) ale na termojadernou elektrárnu čekáme dodnes.... Od konce amerického Měsíčního programu jsme dokonale ztratili schopnost poslat lidi kamkoliv jinam než na Mezinárodní kosmickou stanici. A až bude její životnost končit - jsem opravdu zvědav jestli se bude uvažovat o stavbě další, nebo jestli dojde k typicky současnému "velkohubému prohlášení státníků" po kterém bude následovat "veliké ticho"....

To, že po období technologického rozvoje nastane období stagnace - neni nic nepřirozeného. I během "Verneovského období" nastaly doby kdy aktuální technologie ( třeba pára ) vyčerpala své možnosti a "čekalo se" na další technologii ( elekřinu, spalovací motory ). Pojem "čekalo se" opravdu patří do uvozovek, protože málo kdo z tehdejších současníků měl představu, co přijde a jak to změní společnost. Když to poněkud přeženeme - přestože "paradigma" o společenském pokroku jakože "pokrok je dobrý" s sebou přineslo až osvícenství v 18. století - určitě ani univerzitní badatelé středověku, ani "vědci" v dobách technologické stagnace neměli pocit, že oni jsou poslové zaostalosti a tmářství ( přestože někdy byli ). Naopak kdykoliv panovník vešel do achymistické laboratoře - vždy se tam zuřivě bádalo nad "projekty galaktického významu", přestože metodika tohoto bádání byla ( někdy ) nesmyslná, a výsledky ( často ) žádné. Jinými slovy od začátku renesance do dneška žijeme v představě, že technologický a společenský pokrok pádí vpřed stále rychleji a rychleji. Dnes je tento dojem ještě uměle přiživován a podporován, proto je zásadní položit si otázku : "Jak jsme na tom doopravdy ?"
Bude přehnané, když dnešní dobu popíšu Haškovským citátem "nikdo vám nemůže dát, co já vám mohu slíbit ?" Pravděpodobně jsme obklopeni mořem "polo-technologií" které slibují "téměř vyřešit" energetickou krizi. Téměř vyřešit automobilovou dopravu. Téměř vyřešit globální oteplování ( pokud ono samo není blouznění sekty ). Máme spoustu technologií, které jsou ve stavu kdy už 50 let se říká "budou za 5 let" termo-jaderná energetika, nebo účelně využitá umělá inteligence. V záchvatu krajního pesimismu bych mohl prohlásít : "žijeme v Anti Verneovské době". Jules Verne pečlivě studovat trendy vědy a techniky, a proto - o čemkoliv napsal se nakonec splnilo. My jsme v době právě opačné - cokoliv je vám přezentováno jako " nastupující zásadní pokrok" - pravděpodobně vyšumí, nebo bude skomírat na periferii s 1% vlivu ( a 10% dotace z daní ).

Středověk měl své "konečné řešení společenských problémů" a to bylo dokonalé pochopení Bible a život dle náboženských zásad. Renesanční pokrok nastal když "heretici" začali všeobsažnost Bible zpochybňovat. U mohamedánů takový proces neproběhl, proto dodnes smartfouny, kalašnikovy i výbušniny kupují - na nás - od nás. Dnešní doba se blíží středověké ideji "všeobsažného systému který vyřeší vše" a za tento systém je považována elektronika, potažmo Internet. Vše mimo tuto oblast je považováno za nedůležitou "periferii" jejíž stagnace nebude mít podstatnější vliv. Ještě v jednom aspektu se dnešní situace podobá středověku - "účinný" technologický pokrok by nepochybně změnil mocenské poměry ve společnosti. Proto celá řada lídrů má k opravdovému pokroku vztah asi jako Milouš Jakeš k demokracii : "vona je pro perestrojku potřebná, ale jen tolik, že raději vůbec ne...." Proto jsme v situaci, kdy jsme rádi když "dramatický pokrok" v oblasti X znamená jen "mírné zhoršení" vlastností technologie X ( energetika budiž příkladem ).

Je tedy otázkou co dělat z pozice netalentovaného vidláka ? Považuji za zásadní úlohu každého vidláka být tak trochu středověko / renesančním "heretikem". Až vám budou ukazovat úžasné funkce nového smartfounu o 100% lepší než funkce starého - je třeba se ptát : "A to je vše ?" Odvážnějdí z vás by mohli přidat : "Pravidelné linky na Měsíc, nebo lety s Halem 9000 na Jupiter by tam nebyly ?" Ne proto, že pro život tady na ZeměKouli je zásadní dopravit nějaké frikulíny k měsícům Jupitera, ale protože praním se s uměle vytvořeným avšak těžkým problémem se cvičíme k praní se s přirozenými těžkými problémy.

Možná by stálo za to shrnout to s Karlem Čapkem ( a Archimédem ze Syrakus ) : "není větší geometr, kdo nakreslí větší kruh" - Pokud máme 4 jádrové procesory "jako housky na krámě" ( a asi je neumíme plně využít ) pak 8 ... 16 ... 32 jádrové procesory nezahřejí, nezasytí, nevyléčí a na Měsíc nedovezou...

Robotická auta nebudou ?

7. března 2017 v 5:32 | Petr |  Svět okolo
Stejně jako Internet, nebo třeba zabijácké drony tohle zahájila DARPA - americká agentura pro "obranný výzkum" když v roce 2004 poprvé vyhlásila soutěž robotických aut na trase Los Angeles - Las Vegas. Po 2 ročnících pouštní "Grand challenge" vyhlásila ještě jeden ročník městské "Urban challenge" a pak už se zdál nástup "samořídících" tedy v mé terminologii "roboticky řízených" aut nezadržitelný.

Dalším krokem bylo, že Google lobbisticicky protlačil v Nevadě do legislativy právo jezdit robotickým autem po veřejných silnicích. Čímž se dostáváme velice blízko smyslu dnešního článečku. Google pravidelně reportuje jak obrovské vzdílenosti najezdil v rámci testování robotických aut a kolik měla nehod. Celou statistiku jsem přestal sledovat někdy loni na jaře když poměr byl 0,7 nehody na milión mil (všechny nehody bez zranění). Nezanedbatelná vedlejší informace je "povinné ručení" alias "pojištění odpovědnosti za škody", které Google musí za své prototypy platit - četl jsem náznaky o milionech dolarů pojistky ročně ( za každé vozidlo ) a o pojištění na škodu 100 000 000 dolarů. V každém případě tyto astronomické sumy jsou zjevně nepřiměřené mající za úkol zavřít hubu "znepokojené veřejnosti", protože jestli je něco jasné pak je to to že robot netrpí "silniční psychopatií" ani kolísáním pozornosti a nakonec bude řídit lépe než člověk.

Problém technologického postupu po trase - Urban Challenge - Google car - je to, že Google to dělá jak se to má - to jest auto je skutečně autonomní schopné jet po jakékoliv silnici bez předem známých informací o silnici a jejím okolí, bez připojení na Internet. Za léta vývoje se však jádrem tohoto přístupu stal 64 paprskový Lidar od firmy Velodyne, o kterém jsem už psal, jako že je dražší než jakékoliv rozumné vozidlo a díky exotickým technologiím nutným v Lidarech ( Lasery, optika, úzkopásmové optické filtry, lavinové diody, gigahertzová analogová elektronika atd.... ) není moc prostoru pro pokles ceny na úroveň "běžné součástky z Mototechny"
Takže je tu druhý přístup "alá konvenční automobilky" - začneme tempomatem, a couvacími sonary, pokračujeme "aktivním tempomatem", který mikrovlnným radarem hlídá odstup od auta vpředu, přes různé "parkovací asistenty" a skončímde tam, kde je dnes firma Tesla, která u svých elektromobilů má "robotické řízení" na principu jednoduchých čidel stylu Radar / Sonar / GPS a obrovské všemi auty sdílené databáze "situace na cestě". Takové auto je proti verzi s lidarem "poloslepé" ale zato detailně zná profil trati před čumákem vozu, který si průběžně stahuje z firemních serverů. Tesla prodala "modelu S" s možností robotického řízení daleko více než Google - tudíž už na svém kontě má několik vážných nehod a pár z nich dokonce smrtelných i tak však má nízkou nehodovost ve výši 2,4 nehody na milion mil. Čistě pro porovnání - státy se slušnými řidiči mají 50-60 nehod na milion mil.

Tím se dostáváme k výhledu do budoucnosti - jak se bude měnit automobilismus, až robotická auta nebudou menšinou, kterou potkáte jednou za život ? Nepřítomnost emocí ( "silníční psychopatie") a striktní dodržování předpisů pravděpodobně přinesou pokles počtu nehod a taky prostor pro "rozvolnění" dopravních předpisů. Už dnes se spekuluje, že pokud by se řidiči chovali ( a zejména předjížděli ) defenzivně a slušně - daly by se rychlostní limity na dálnicích povolit až někam ke 200 km/hod. Je pravděpodobné, že nárůstem robotizace řízení se změní i spektrum nehod - ke drobnému střetu vůbec nedojde, ale pokud nehodě nebude ani robot schopen zabránit - následky budou stát za to. Nepřesným příměrem budiž nám letecká doprava - na 300 milionů cestujcích bezpečně dopravenýcbh - 300 mrtvých v rozbitém letadle.

Aerolinie si mohou platit vysoké "povinné ručení" a jelikož jsou to "právnické osoby", když je průser opravdu veliký - a je třeba nahrazovat veliké škody a řešit veliké soudy s pozůstalými - vždy je možnost zkrachovat a tím uniknout. Taková varianta je pro fyzickou osobu - majitele robotického vozidla neprůchodná. Proto se vynořuje zatím nevyřešený právní problém a to je otázka "kdo zodpovídá za autonehodu robota" ? V souvislosti s touto zodpovědností hrozí robotické dopravě veliké nebezpečí z hlediska firemních právníků automobilek. Dnešní "Teslovská cesta" robotizace vozidla totiž ponechává v autě volant, pedály a tváří se jen jako "asistent" řidiče. Pak není problém někde na předposlední stránce "příručky pro řidiče" napsat mikroskopickým písmem, že jelikož má auto stále volant ( a brzdový pedál ) - za výsledky jízdy robota stále zodpovídá řidič !!!

Můžeme se tudíž dočkat situace, kdy sice robotická auta s minimálním počtem nehod budou svištět po dálnicích 200/hod. Za provoz aut však stále budou formálně zodpovědní šoféři, kteří vzhledem k limitacím lidského mozku nebudou mít vůbec šanci se nějaké "zodpovědnosti" ujmout ať bude dobře, nebo bude zle. Jestli situace s robotickými auty dospěje k této právní "prasárně" - kterou ( nedej Bože ) potvrdí svými rozsudky i soudy - pak je to faktický konec robotického řízení ještě než pořádně začalo. Příklady takové "nespravedlnosti" budou široce medializované a po pár takových příkladech si většina šoférů řekne, že když už mají havarovat ( a jít za to sedět / platit odškodné ) ať už je to jejich vlastní rukou - než hrát ruskou ruletu s robotickým řízením, kterému jsem vydán na milost - a robotické řízení vypnou. Vůbec nebudu spekulovat o extrémně absurdní variantě ( kterou určitě navrhne Brusel ), že zodpovědnost je sice na řidiči, ale robotický "asistent" vypnout nepůjde - taková auta by si zasloužila bojkot ze strany kupujících.

Pravděpodobně očekáváte že mám v kapse nějaké řešení tohoto problému - nemám. Dovolím si poznameat, že pokud auto je 100% autnomní robot - snad ani EU by pak nesvalovala zodpovědnost na posádku která sedí na sedadle bez volantu. Kdo však v takovém případě zodpovídá za následky nehody - nevím. Soudní precedent ukáže, ale je riziko, že ač budou nehody velice vzácné - nebudou tak vzácné aby kdokoliv ( výrobce, pojišťovny, stát ??? ) byl ochoten se této zodpovědnosti ujmout. Tak se může technologický pokrok, který by přinesl úlevu v dopravě "pokazit" někde na pomezí strachu z neznámého a cynického právničení.