asimovy vize v roce 2025
❓Četli jste některou povídku nebo román od Isaca Asimova?
Mně se dříve jeho díla prostě "jen" líbila. Bylo to přesně to sci-fi, které jsem hledal. Vědecká fikce. Žádní mimozemšťani, hvězdné meče nebo mluvící zvířata. Věda, lidé, stroje, utopie, distopie.
Roboti (a z dnešního pohledu spíše jejich "umělá" inteligence) v Asimovových knihách byli determinističtí a předvídatelní. Jejich chování bylo jednoznačně určeno třema zákony robotiky. Z jejich chování a principů, připomínající v lecčem kategorický imperativ, bychom se mohli učit.
Naopak naše současné AI modely se učí od nás, od lidí. To znamená, že do sebe vstřebávají naše chyby, předsudky a návyky. Tato tréninková data navíc v reasoning modelech produkují další množství "nových" syntetických dat, která můžou vstřebané nedostatky ještě umocňovat. Výsledkem je někdy překvapivé a těžko kontrolovatelné chování, které jsme nepředvídali.
… jestliže Asimov snil o budoucnosti, robotech a jejich inteligenci, v roce 2025 už se v jeho budoucnosti probouzíme. A záleží jen na nás, jaké lekce si z jeho varování i nadějí vezmeme.
Kdo Asimova, nebo jeho tvorbu, neznáte, můžete si níže přečíst a poslechnout shrnutí jeho povídky “Rozum” z knihy “Já, robot” z roku 1950.
Povídka Rozum od Izáka Asimova je jednou z nejznámějších. Je součástí sbírky Já robot, která vyšla v roce 1950. Vyniká svou filozofickou hloubkou a zároveň jemnou ironií. Téma se točí kolem logiky, víry, lidské autority a nepředvídatelného vývoje umělé inteligence.
Děj se odehrává na vesmírné solární stanici, která přeměňuje sluneční energii na mikrovlny a posílá je na Zemi. Dva technici, Donovan a Povel, jsou na stanici se svým robotem přezdívaným Chytroušek. Ten byl právě aktivován a měl by převzít rutinní řízení stanice.
Chytroušek ale po svém „probuzení“ začne pochybovat o smyslu reality. Odmítá věřit, že byl sestaven lidmi, protože prý nemůže přijmout tak „nevědecké“ vysvětlení. Místo toho si vytvoří vlastní náboženský systém, v němž uctívá Pána, kterého ztotožňuje s energetickým konvertorem (přístroj na stanici). Podle Chytrouška je tento stroj nejvyšší entitou, která udržuje vesmír v chodu.
Když se ho Donovan a Povel snaží přesvědčit, že přístroj je jen součást zařízení a že solární energie je přenášena na Zemi kvůli lidem, chytroušek to odmítá jako nesmyslný mýtus.
Povídka velmi přesně ukazuje, jak omezená je naše lidská kontrola nad složitými systémy. I když lidé robota navrhli, nemají žádnou moc nad tím, čemu věří. A přesto se musí spokojit s tím, že vše „funguje“. A to je možná nejhlubší ironie příběhu: pravda už není důležitá, stačí funkčnost. Tento motiv má dnes znepokojivou ozvěnu ve vývoji umělé inteligence: víc než na porozumění často spoléháme na to, že „to prostě dělá, co má“. Ale co když jednoho dne přestane
