https://www.melvil.cz/kniha-nexus
Harari prochází vývoj informačních sítí a jejich nástrojů od počátku civilizace. Snaží se tím dát aktuální vývoj kolem AI do širšího rámce. Co zvládly nedokonalé technologie, co může zvládnout všeobjímající AI.
Knížka má hodně široký záběr, takže poskytuje zajímavý kontext ve velké hloubce, až si místy člověk říká, jestli toho středověku není moc :). Historické exkurzy ale představují spoustu zajímavého čtení samy o sobě, navíc poskytují kontext pro pochopení poselství knihy.
AI tak staví jako další stupeň a vysvětluje, proč má velký potenciál změnit svět. V čem může sloužit třeba totalitním vládcům a současně kde má slabiny, pokud rezignujeme na její regulaci.
Na druhou stranu Harari bohužel nenabízí moc receptů, jak popsaným problémů čelit, případně o nich mluví spíš v obecné rovině, moc se nevěnuje tomu, co by znamenaly a jak by vůbec šly nastolit (např. regulace). Nejspíš to bude tím, že žádné rychlé a snadné recepty neexistují. Tak si držme palce.
Celkově mám jeho styl rád a bavilo mě to.
Informace dokážou soustředit obrovskou moc. Nelze tomu rozumně zabránit. Je to problém sítě, kdy informace sítě drží pohromadě.
Iluze, že více informací povede k větší znalosti a demokracii
Populisté drží schéma INFORMACE -> MOC
Realistický pohled
Lidi ji nechápu, tak z ní mají často strach, i když pro ně zajišťuje spoustu dobrých věcí.
Většina informací v lidské společnosti – a ostatně i v jiných biologických a fyzikálních systémech – nereprezentuje nic.
Klíčový je kontext informace a její smysl pro její příjemce
Základem každého náboženství je představa propojení s nadlidskou a neomylnou inteligencí.
Bible
- kanonizace
- opisy – držení konzistence
- aktuálnost textu (lgbt,….)
- výklady a jejich vznam v době
jednotliví členové církve mohou dopustit chyb nebo zhřešit, katolická církev jako instituce je neomylná. Bůh údajně nikdy v historii nedopustil, aby se většina církevních představitelů dopustila závažné chyby ve výkladu svaté knihy. Tento princip je společný mnoha náboženstvím.
I když svatou knihu nepochybně stvořili lidé 🤷
Čarodějnické procesy – vznik „návodu“, virální šíření“, vlastní sebepotvrzující se kruh.
Vědeckou revoluci zahájil objev nevědomosti. Náboženství založená na svaté knize předpokládala, že mají přístup k neomylnému zdroji poznání. Konstatní zpochybňování jakýchkoli myšlenek vede k pokroku.
Průmyslová revoluce přinesla hodně pozitiv, ale na jejím začátku bylo i dost problémů – znečistění, kolonialismus, extrémně špatné podmínky ve výrobě
Totalita x demokracie
Oboje umožnil rozvoj komunikace. Totalita sdružuje informace na jednom místě, vytváří absolutní pravdu (jako svatá kniha). Rozpad velkých totalitních systémů způsobila neschopnost zpracovávat množství informací, paralýza lidí strachem něco dělat a obecná neaktivita.
Krize demokracie plyne ze složitosti, informačního přehlceni, neschopnosti najít společná témata. Populisté a národovci vytváří nejistotu, nepřítele.
Principy demokracie
- důvěrnost – informace zůstávají důvěrné
- decentralizace – není jedno centrum shromažďující informace
- vzájemnost – vztah je vyvážený, nemůže být výrazná převaha jedné strany
- změna & odpočinek – informace není neměnná a absolutní, systém nemůže vykonávat absolutní dohled
Sociální sítě
Uživatelé platí sítím svými daty, které odhalují preference a tím umožňují prodej reklamy.
Nejvíc znepokojivé je možná odhalení, že „naše (META) systémy řízení obsahu používají samostatné predikce nejen, co se týká příspěvků, které by vás mohly zajímat, ale také ohledně těch, jež byste sdíleli dál, takže by dokázaly zaujmout i další uživatele. Výzkum bohužel ukázal, že u šokujícího obsahu a dezinformací je pravděpodobnost virálního šíření vyšší“.
Které údaje budou užitečnější k odhadnutí vašeho politického přesvědčení – ty z telefonu, nebo ty z implantovaného čipu? V současnosti je zkrátka chytrý telefon stále mnohem cennějším nástrojem dohledu než biometrické snímače.
AI věk
Počítače drží nejvíce informací, jsou s nimi schopné nejefektivněji nakládat.
- učí se i z blbostí, biasů a předsudků
- neumí rozlišit, co je správně, často rozhoduje podle objemu
- těžko umíme dobře definovat, co je hlavní účel (paradox sponek)
Členové předchozích sítí byli lidé; každý řetězec musel vést přes lidi a technologie sloužily pouze k propojení mezi nimi. V nových sítích stojících na strojích se mezi členy zařadily také samotné počítače a vznikly řetězce počítač>počítač, které nevedou přes žádného člověka.
Spousta rozhodnutí, např. na finančních trzích dělají počítače.
Budou konstruovat produkty?
Sociální skóre / algoritmické soudy – mohou být spravedlivé, ale jsou těžko pochopitelné, protože algoritmus je komplexní, ale současně extrémně složitý. Pro lidi těžko pochopitelný. Těžko budeme chápat výsledné skóre – je třeba extrémní důvěry k jeho tvůrci / správci = povede to k revoltě-
Regulace je nezbytná, protože už teď algoritmy se svými partikulárními zájmy ovlivňují naše životy.
Stále více agendy počítačům svěřujeme, ale nejsme schopní dobře definovat obecné cíle a současně tomu dobře nastavit regulaci. To by historickou perspektivou mohlo vést k nedobrým věcem.
Napsat komentář