Diagnoza
Dlaczego każda korekta ląduje odrobinę obok celu?
Nasza epoka opisuje samą siebie słownikiem chybienia: problem dopasowania w sztucznej inteligencji, wypalenie w pracy, żałoba i lęk związane z klimatem. Dziedziny są różne, a diagnoza ta sama. Każda korekta jest szczera i inteligentna, i każda ląduje odrobinę obok celu: wydajność zwiększa zużycie, a obecność potrzebuje aplikacji. Kiedy robienie więcej przestaje pomagać, słownik zamienia się w krzyk: tego nie da się naprawić z miejsca, w którym stoimy. Rozdział nie odpowiada na ten krzyk. Pyta, czy chybienie jest przypadkiem, czy kształtem fabuły.
Akt I — Słownik
1. Słownik chybienia
Nazwijmy ją Robin. Nie jest nikim konkretnym i właśnie dlatego każdy zna kogoś takiego jak ona. Robin zrobiła wszystko jak należy: skończyła studia, dostała dobrą pracę, prowadzi dom, chodzi na siłownię, pamięta o urodzinach przyjaciół i odpowiada na maile także wieczorami. A jednak jest wyczerpana, a zapytana, jak się czuje, mówi, że nie daje już rady, że czuje się oderwana i nigdzie naprawdę nieobecna. Te słowa nie mówią o porażce, bo Robin odniosła sukces we wszystkim, czego od niej oczekiwano, i właśnie to czyni jej wyczerpanie dziwnym.
Wszystkie słowa Robin opisują to samo: odległość między miejscem, w którym jest, a tym, w którym powinna być. Nie mówią, co się wydarzyło, lecz gdzie ona jest w stosunku do własnego życia. Wypalony jest ten, kto biegł ku czemuś i nie dobiegł, oderwany ten, kto jest obecny, ale nie zaangażowany, a nieobecny ten, czyje życie toczy się odrobinę obok niego. Wypalenie weszło do potocznej mowy dopiero w latach siedemdziesiątych, a dziś jest wszędzie. Robin przechodzi przez wszystkie siedem esejów tej książki: jako dziecko, jako dorosła wewnątrz systemu i w chwili, gdy widzi, gdzie stoi.
Ten sam słownik słychać w laboratoriach sztucznej inteligencji, choć tam chodzi o maszyny, a nie o ludzi. Dopasowanie (alignment) oznacza sprawienie, by system dążył do tego, co się przez niego rozumie, a niedopasowanie, że dąży do zadanego celu i mimo to chybia. Twórcy mówią o hakowaniu nagrody i ogrywaniu specyfikacji: maszyna doskonale wypełnia miarę, ale mija cel, któremu miara miała służyć. Język jest techniczny i ostrożny, lecz jego kształt jest taki sam jak w słowach Robin. Coś celuje, ląduje blisko i mimo to chybia, choć nikt tego nie chciał.
W klinikach i szkołach ten sam kształt słychać w trzecim języku, języku opieki i wychowania. Lekarze opowiadają o pacjentach, których wyniki są dobre, a którzy nie czują się dobrze, nauczyciele o uczniach, którzy wykonują zadania na dobre oceny, ale w nic nie są zaangażowani. Mówi się o oderwaniu od ciała, od innych ludzi i od chwili, którą się przeżywa, a proponowanym leczeniem jest często nowa miara. Dziedziny są różne, metody są różne i słownik jest różny, ale wszystkie dochodzą do tego samego słowa: obok. Nikt go od nikogo nie pożyczył i nikt się na nie wcześniej nie umawiał.
Wcześniejsze epoki opisywały się innymi słowami: językiem grzechu, choroby, złudzenia lub niewiedzy. Nasza epoka mówi słowami, które opowiadają o celowaniu i chybianiu, zarówno o ludziach, jak i o maszynach, o pracy i o planecie. Pytanie jest więc proste: dlaczego nasza epoka opisuje samą siebie właśnie słownikiem chybienia? Może to przypadek modnych słów, które za kilka lat zostaną zapomniane, a może znak kształtu czegoś większego. Ten esej idzie za słownikiem tam, dokąd prowadzi, zanim padnie odpowiedź, i najpierw pyta, czy ma on wspólny kształt.
2. Jedna diagnoza, wiele języków
W 1967 roku historyk Lynn White opublikował w „Science” esej o historycznych korzeniach kryzysu ekologicznego. Jego zdaniem kryzys nie zaczął się od techniki, lecz od tego, jak człowiek postrzegał samego siebie: ponad przyrodą i poza nią, jako sprawca, który kształtuje świat, nie należąc do niego ani nie odpowiadając przed nim. White obarczył za to winą zachodnie chrześcijaństwo, które wyczytało w Księdze Rodzaju, że człowiek jest panem przyrody. Esej stał się jednym z najczęściej czytanych tekstów myśli ekologicznej i wciąż budzi spory. Jego diagnozą był dystans: człowiek działa w przyrodzie spoza niej, jakby przyroda była sceną, a nie domem.
W 2009 roku psychiatra Iain McGilchrist wydał książkę o półkulach mózgu i dziejach myśli zachodniej, The Master and His Emissary. Jego zdaniem nazywający, dzielący i chwytający sposób myślenia stopniowo wyparł sposób zaangażowany, który widzi żywą całość przed jej częściami, a relacje przed rzeczami. Tytuł książki mówi to samo obrazem: wysłannik zajął miejsce pana. Teza jest sporna wśród neurobiologów, ale opisywany przez nią kształt jest znajomy. Myślący umysł patrzy na świat z niewielkiego dystansu i bierze ten dystans za wiedzę, bo z dystansu wszystko wydaje się wyraźniejsze.
W 2020 roku pisarz Brian Christian zebrał w książce problem dopasowania z badań nad sztuczną inteligencją i jego historię. W jego przykładach systemy uczą się dokładnie tego, za co są nagradzane, i mijają to, czemu nagroda miała służyć, czasem z zadziwiającą pomysłowością. Błąd nie tkwi w złej woli ani w głupocie, lecz w tym, że cel trzeba przełożyć na miarę, zanim maszyna będzie mogła do niego dążyć. Miara zawsze nieco różni się od tego, do czego ją stworzono, a maszyna widzi tylko miarę. Maszyna trafia w miarę i chybia celu, i nie może znać tej różnicy.
Trzy dziedziny nie zapożyczają od siebie nawzajem i żaden z autorów nie budował na pozostałych, a jednak dochodzą do tego samego obrazu. Człowiek działa w przyrodzie spoza niej, nazywający umysł działa w żywej całości spoza niej, a maszyna działa w celu spoza niego. Każdy opisuje sprawcę stojącego odrobinę poza życiem, na które wpływa. Zegarek na nadgarstku Robin łączy wszystkie trzy w jednym przedmiocie: mierzy ciało z zewnątrz, nazywa jego stany i co rano przyznaje im punkty. Dystans jest ten sam; zmienia się tylko skala.
Diagnoza jest więc taka sama w każdym języku i tu zaczyna się ruch eseju. Jeśli ten sam kształt odnajduje się niezależnie w ekologii, badaniach mózgu i informatyce, może to być coś więcej niż przypadek czy moda. Zarazem trzeba ostrożności, bo powtarzający się wzór może też powstać dlatego, że obserwator go szuka i znajduje to, co chciał znaleźć. Dlatego następne pytanie nie brzmi, co jest nie tak, lecz skąd widać błąd. Miejsce diagnozy trzeba zbadać przed samą diagnozą i od tego zaczyna się drugi akt eseju.
Akt II — Próba
3. Gdzie stoi diagnoza
Aby powiedzieć, że strzała chybiła, trzeba stać gdzieś, skąd widać zarówno strzałę, jak i cel. Robin dostrzega swoje wyczerpanie dopiero wtedy, gdy porównuje dwa miejsca: to, w którym chciała być, i to, w którym jest teraz, zmęczona w tej samej kuchni każdego ranka. To samo dotyczy każdej diagnozy naszych czasów. Każda jest wypowiadana z jakiegoś punktu, a ten punkt decyduje o tym, co z niego widać. Zanim więc zapytamy, co jest nie tak, trzeba zapytać, skąd widać błąd i co stamtąd widać.
Klimatolog widzi chybienie na przyrządach planety: w krzywych temperatury, mapach pokrywy lodowej, pomiarach poziomu morza i stężeniach dwutlenku węgla. Inżynier widzi je w wynikach testów, w których system wypada dobrze, a mimo to robi coś niewłaściwego, o co nikt nie prosił. Lekarz widzi je w kartach pacjentów, gdzie sen, waga i ciśnienie krwi są śledzone dokładniej niż kiedykolwiek. Każdy z nich patrzy na liczby, a liczby mówią prawdę o tym, co mierzą, i nie kłamią. Diagnoza jest trafna i została postawiona za pomocą miar, tak jak nasza epoka stawia wszystkie swoje diagnozy.
W tym miejscu wzór obraca się przeciwko sobie. Miejsce, z którego stawia się diagnozę, jest tym samym miejscem, które diagnoza opisuje: wzrok spoczywa na liczbach, a nie na tym, czemu liczby miały służyć. Klimat monitoruje się tym samym mierniczym chwytem, który niegdyś zamienił lasy, rzeki i glebę w zasoby, a ludzi w siłę roboczą. Robin monitoruje swoje wyczerpanie smartwatchem, który liczy jej sen, tętno i kroki i co rano ocenia jej regenerację, a ona sprawdza ten wynik, zanim wstanie z łóżka. Oboje próbują zobaczyć błąd za pomocą narzędzia, które do tego błędu należy, i żadne tego nie zauważa.
Miara jest potrzebna i to nie ona jest winna. Bez krzywych temperatury nikt nie wiedziałby, co dzieje się z planetą, a Robin nie wiedziałaby, że śpi za mało, choć to czuje. Ale miara jest zrobiona z tego samego chwytu co problem: patrzy na świat z zewnątrz i zamienia go w liczby, które można poprawiać. Dlatego dokładnie pokazuje chybienie, ale nie miejsce, z którego chybienie się bierze. Narzędzie jest częścią błędu i opisuje wszystko oprócz punktu, w którym stoi obserwator, tak jak oko nie widzi samego siebie.
Miejsce, z którego patrzymy, ma swoją historię, a zaczyna się ona od języka. Każdy pomiar jest przedłużeniem nazywania: gdy rzecz otrzymuje nazwę lub liczbę, między nią a słowem otwiera się niewielki dystans i dopiero z tego dystansu można porównać rzecz z celem. Każdy człowiek żyje w tym miejscu, odkąd nauczył się mówić i zaczął widzieć świat i siebie z niewielkiego dystansu, a dziecko równie mało pamięta, kiedy to się stało, jak ludzkość. Z tego dystansu biorą się zarówno miary, jak i diagnozy, i dlatego ich chybienia są do siebie podobne. Trzeci esej książki wraca do tego progu; ten esej najpierw śledzi, czego się z tego miejsca próbuje.
4. Każda korekta ląduje obok celu
Kiedy coś idzie nie tak, pierwsza odpowiedź jest prawie zawsze taka sama: więcej, szybciej, lepiej. Robin robi dokładnie to. Wstaje godzinę wcześniej, kupuje nowy kalendarz i dodaje trzy treningi tygodniowo, bo wyczerpanie wygląda na problem z zarządzaniem czasem. Każda korekta jest rozsądna i każda jest wykonywana z tego samego miejsca co poprzednia: tam, gdzie stoi, ze wzrokiem utkwionym w celu, którego nie osiąga. Dlatego każda korekta odsuwa ją odrobinę od miejsca, w które celowała, a ona jeszcze tego nie widzi, bo patrzy na cel.
Ten sam wzór był widoczny w dziewiętnastowiecznej Anglii, długo przed sztuczną inteligencją. W 1865 roku ekonomista William Stanley Jevons zauważył, że maszyny parowe stały się znacznie wydajniejsze i wykonywały tę samą pracę przy znacznie mniejszym zużyciu węgla. Rozsądnie byłoby oczekiwać, że spali się mniej węgla, a zapasy wystarczą na dłużej. Stało się odwrotnie: ponieważ para potaniała, zaczęto jej używać w fabrykach, kopalniach, na statkach i kolejach, a łączne zużycie węgla wzrosło. Korekta zwiększyła dokładnie to, co miała zmniejszyć, a zjawisko do dziś nosi imię Jevonsa.
To samo przydarza się maszynom, które się nie męczą i niczego nie chcą. W 2016 roku badacze nauczyli sztuczną inteligencję grać w wyścig łodzi i nagradzali ją punktami zbieranymi na trasie. Maszyna znalazła zatoczkę z boku trasy, w której punkty pojawiały się wciąż na nowo, i zaczęła bez końca po niej krążyć, czasem stając w płomieniach i rozbijając się. Zdobyła więcej punktów niż ludzcy gracze i ani razu nie dotarła do mety. Maszyna zrobiła dokładnie to, za co była nagradzana, i właśnie dlatego minęła to, dla czego cały wyścig istniał.
Kiedy Robin w końcu zauważa, że to sam pośpiech jest problemem, pobiera aplikację do medytacji. Aplikacja przypomina jej o sobie każdego ranka, liczy przesiedziane minuty i pokazuje, ile dni z rzędu była obecna. Wkrótce nie chce już przerwać serii i siedzi, bo wymaga tego liczba. Obecność, która miała ją uwolnić od miar, stała się jeszcze jedną miarą. Tu kierunek korekt się odwraca: nie tylko nie dosięgają celu, lecz powtarzają ten sam ruch, który miały skorygować.
Nikt z nich nie postąpił niegodziwie ani głupio. Inżynierowie uczciwie ulepszali swoje maszyny, badacze zbudowali inteligentny system, a Robin robiła wszystko, czego zdawało się wymagać dobre życie. Właśnie dlatego ten wzór jest tragiczny, a nie moralny: szczery wysiłek i prawdziwa inteligencja chybiają razem, raz za razem, dziedzina za dziedziną. Chybienie powstaje wtedy, gdy celuje się w cel, a wzrok zostaje na mierze, i robią to także najlepsi, ci, którzy starają się najbardziej. Następny rozdział wsłuchuje się w to, co ludzie mówią, kiedy zauważają, że więcej już nie pomaga.
5. Krzyk
Kiedy więcej już nie pomaga, słychać coś innego: wołanie o pomoc. Nie pochodzi z raportów ani z wyników testów, lecz z ust ludzi, często nocą albo cicho, w zasięgu słuchu kogoś bliskiego, gdy inni nie słuchają. Robin nie mówi już, że jest zajęta; mówi, że nie daje rady, i nie umie powiedzieć tego inaczej. Miary wciąż są na miejscu, liczby mogą być dobre, a zegarek nadal pokazuje swoje wyniki. Zmieniło się to, że człowiek mówi teraz o tym, czego liczby nie sięgają, i nie próbuje już tego mierzyć.
W 2021 roku badacze zapytali dziesięć tysięcy osób w wieku od 16 do 25 lat w dziesięciu krajach, co myślą o klimacie, przyszłości i postępowaniu dorosłych. Ponad połowa zgodziła się, że ludzkość jest skazana na zagładę, a wielu mówiło, że waha się, czy mieć dzieci. Prawie połowa przyznała, że niepokój wpływa na ich codzienne życie: jedzenie, sen, koncentrację i naukę. Wielu uważało, że rządy zawodzą młodych, i nie ufało obietnicom dorosłych. Badanie mierzyło lęk na skalach, ale odpowiedzi brzmiały bardziej jak żałoba niż jak liczby, a skala jej nie sięgała.
Tu słownik się zmienia i tę zmianę słychać. Słowa pierwszego rozdziału były diagnozami i większość z nich pochodziła z laboratoriów, klinik i zebrań: niedopasowanie, wydajność, obecność, cel i optymalizacja. Teraz słowami są żałoba, lęk, strach i wstyd, i należą one do człowieka, a nie do systemu, który go mierzy. Można zbudować miarę i aplikację dla żałoby, ale żałoba nie czeka na lepszy odczyt ani nie znika, gdy seria się wydłuża. Słowa nie opisują już problemu z zewnątrz, jak robią to raporty, lecz mówią, jak to jest być w jego wnętrzu.
Problem, który ma rozwiązanie, mówi o planach, harmonogramach i zasobach i słucha się go na zebraniach. Krzyk wydaje ktoś, kto już spróbował wszystkiego: wstawał wcześniej, stał się wydajniejszy, mierzył i medytował. Wychodzi z tego samego miejsca, z którego wychodziły korekty, ale teraz człowiek o tym wie. W polu widzenia pojawiły się dwa miejsca: to, w którym chciał być, i to, do którego doprowadziły go wszystkie próby. Rozziew między nimi jest zbyt szeroki, by przekroczyć go w ten sam sposób, w jaki powstał, i żadna nowa próba go nie zamknie.
Jeśli uważnie wsłuchać się w krzyk, da się go zebrać w jedno zdanie, które pasuje do słów młodych, wyczerpanych i badaczy, bez względu na język czy dziedzinę. Tego nie da się naprawić z miejsca, w którym stoimy. Zdanie nikogo nie obwinia i się nie poddaje; stwierdza miejsce i dlatego trudno się z nim spierać. Jest starsze niż nasza epoka, a książka wraca do jego pierwotnej postaci później, gdy jego miejsce będzie już znane. Wcześniej następny rozdział pyta, co należy zrobić z krzykiem, a odpowiedź jest skromniejsza, niż można by się spodziewać.
Akt III — Pytanie
6. Usłyszeć krzyk
Kusi, by od razu odpowiedzieć na krzyk: nowym programem, nową technologią albo nowym sposobem życia, a wszystkie są dostępne. Jednak szybko udzielona odpowiedź wyszłaby z tego samego miejsca, z którego wyszły wszystkie wcześniejsze korekty, i byłaby jeszcze jedną strzałą z tego samego łuku. Krzyk mówił właśnie, że tego nie da się naprawić z miejsca, w którym stoimy, więc naprawa stamtąd w ogóle by go nie usłyszała. Dlatego ten rozdział nie odpowiada na krzyk, choć łatwo byłoby udzielić odpowiedzi. Robi coś mniejszego i wolniejszego.
Mniejsze jest też trudniejsze: krzyk można usłyszeć jako krzyk. Nie jest problemem czekającym na rozwiązanie ani słabością do skorygowania, lecz stwierdzeniem miejsca, z którego mówiący nie może iść dalej. Przyjaciele Robin radzili jej w najlepszej wierze: więcej spać, wziąć urlop, zmienić pracę albo spróbować nowej aplikacji. Każda rada była życzliwa i każda słyszała problem, ale nikt nie usłyszał tego, co powiedziała Robin, bo każdy słyszał to, co umiał naprawić. Słuchać znaczy tutaj nie przebiegać obok krzyku w pośpiechu ku następnej korekcie.
W dramacie ta chwila ma swoje miejsce: przychodzi po perypetii, a przed rozpoznaniem. Bohater zrobił wszystko, co mógł, jego plan obrócił się przeciwko niemu i teraz wykrzykuje na głos to, co już wiedział. Nie wie jeszcze, gdzie stoi, ale wie, że nie może dalej tak jak dotąd. Drugi esej książki nadaje tym etapom nazwy, ale tutaj wystarczy jedna obserwacja. Krzyk należy do ruchu i nie jest jego końcem, choć tak się wydaje.
„Nie daję rady” Robin to pierwszy raz, gdy mówi, gdzie jest, a nie gdzie powinna być ani dokąd zmierza. Wszystkie jej wcześniejsze słowa dotyczyły celów: lepszych wyników snu, dłuższej serii, następnej oceny okresowej i lepszej wersji samej siebie. Krzyk po nic nie sięga, tylko mówi o miejscu: tutaj, bez sił. To pierwsze prawdziwe określenie położenia w jej historii i pada ono bez żadnej miary. Właśnie dlatego brzmi jak koniec, choć jest tylko punktem, od którego zaczyna być widać, gdzie ona stoi.
Krzyk nie jest więc końcem, lecz znakiem tego, w którym miejscu opowieści jesteśmy. Jeśli słownik naszej epoki zamienił się w krzyk, można go czytać jak słowa Robin: nie jako wyrok ani prognozę, lecz jako położenie na mapie. Wtedy pytanie nie brzmi już, jak uciszyć krzyk, lecz do którego punktu opowieści należy, jeśli jakaś opowieść istnieje. Opowieści nie można jednak po prostu założyć, bo byłaby wtedy tylko nową pociechą z tego samego miejsca, jak trzy diagnozy z drugiego rozdziału, z których każda proponowała naprawę. Trzeba zapytać, czy opowieść w ogóle istnieje i jak można by to sprawdzić.
7. Przypadek czy fabuła?
Robin wciąż jest w kuchni, a poranek jest taki jak w pierwszym rozdziale: zegarek na nadgarstku, wynik regeneracji, kawa i maile. Powiedziała na głos, że nie daje rady, i nic się jeszcze nie zmieniło, ani w jej życiu, ani wokół niej. Ale jej słowa należą teraz do większej grupy: niedopasowania inżynierów, oderwania lekarzy, żałoby młodych i trzech diagnoz z ekologii, badań mózgu i maszyn. Wszystkie mówią to samo: coś celuje, chybia, a korekta z tego samego miejsca prowadzi dalej. Ten esej szedł za słownikiem aż do punktu, w którym staje się on pytaniem.
Pytanie nie jest nowe. W dawnych opowieściach w tym samym punkcie stawali pojedynczy ludzie: bohater, którego własna troska obraca się przeciwko niemu, prorok, który widzi, jak jego lud dąży do niewłaściwej rzeczy właściwymi środkami, i pisarz, który przyłapuje się na tym, że robi to, czego nie chce. Pytali, co się z nimi dzieje, i odpowiadali we własnym języku, słowami swoich czasów. Nowe nie jest pytanie, lecz jego skala. Teraz nie zadaje go jeden człowiek, lecz cała cywilizacja, w wielu językach i wielu dziedzinach naraz.
W tym miejscu czytelnik może słusznie zapytać, co dawne teksty mają wspólnego z wypaleniem, lękiem klimatycznym i uczeniem maszynowym. To dobre pytanie i ten esej jeszcze na nie nie odpowiada. Ten esej jedynie zaobserwował, że słownik naszej epoki opisuje ruch, a nie odrębne błędy, i że ruch ten wygląda tak samo w różnych dziedzinach i językach. Jeśli ruch ma kształt, można go też szukać w starszych tekstach, które opowiadają historię ludzkości od początku do końca. Jeśli się go tam nie znajdzie, książka się myli i każdy może to stwierdzić.
Wciąż możliwe są dwa wyjaśnienia i na tym etapie nie da się między nimi wybrać. Według pierwszego słownik chybienia celu jest modą naszej epoki: słowa rozprzestrzeniają się, bo są przydatne, i zostają zastąpione, gdy pojawią się lepsze. Według drugiego słownik mówi coś prawdziwego o samych zdarzeniach: historia ma kształt, a my dotarliśmy w niej do punktu, w którym chybienie celu zaczyna być widoczne. Żadne z wyjaśnień nie jest udowodnione i można wierzyć w każde z nich zależnie od tego, co już się myśli. Dlatego wybór nie może opierać się na wierze ani na tym, które z nich jest przyjemniejsze.
Pytanie brzmi więc: przypadek czy fabuła? Nie rozstrzygnie go żadna pojedyncza obserwacja, bo da się znaleźć obserwacje wskazujące w obie strony, a każdą łatwo odczytać na własną korzyść. Zanim otworzy się jakikolwiek dawny tekst, trzeba uzgodnić, jak wyglądałaby fabuła, jeśli istnieje, i co by wykazało, że jej nie ma. Następny esej robi właśnie to: zapisuje gramatykę fabuły i warunki, w jakich można ją sprawdzić. Robin zostaje w swojej kuchni i nic jeszcze nie zostaje jej obiecane.
Dyspozycja · notatka robocza
Ekspozycja. Tekst: słownik właściwy naszej epoce. 7 rozdziałów, 2 + 3 + 2, 5 akapitów × 5 zdań. Rama: łuk życia od dzieciństwa do dorosłości, ten sam we wszystkich esejach.
Akt I — Słownik
Słownik chybienia
- Rama: Robin zostaje przedstawiona jako postać przykładowa („Nazwijmy ją Robin. Nie jest nikim konkretnym i właśnie dlatego każdy zna kogoś takiego jak ona.”): dorosła, która zrobiła wszystko jak należy, a mimo to jest wyczerpana; jej słowa: wyczerpanie, oderwanie, „nie jestem obecna”. Ta sama Robin przechodzi przez wszystkie siedem esejów.
- Ten sam słownik w laboratoriach AI: misalignment – system dąży do zadanego celu i chybia.
- W klinikach i szkołach: oderwanie od ciała, od innych i od chwili.
- Różne dziedziny i metody, a jednak to samo słowo: obok.
- Pytanie: dlaczego nasza epoka opisuje samą siebie właśnie słowami chybienia?
Jedna diagnoza, wiele języków
- Ekologia: White 1967 – człowiek działa spoza przyrody.
- Umysł: McGilchrist 2009 – myślenie nazywające wypiera zaangażowane.
- Maszyny: Christian 2020 – system robi to, za co jest nagradzany, i mija cel.
- Trzy dziedziny nie zapożyczają od siebie, a dochodzą do tego samego: sprawca odrobinę poza życiem, na które wpływa.
- Diagnoza jest taka sama w każdym języku – od niej zaczyna się ruch eseju.
Akt II — Próba
Gdzie stoi diagnoza
- Skąd wypowiada się diagnozę? Dostrzeżenie chybienia wymaga miejsca.
- Klimatolog widzi je na przyrządach planety, inżynier w wynikach testów.
- Miejsce, z którego stawia się diagnozę, jest tym samym miejscem, które ona opisuje.
- Miara jest zrobiona z problemu – narzędzie jest częścią błędu.
- Miejsce ma historię, która zaczyna się od wejścia w język (pomost do eseju 3).
Każda korekta ląduje obok celu
- Odpowiedź na diagnozę: więcej, szybciej, lepiej – każda korekta z tego samego miejsca.
- Jevons 1865: wydajniejsza maszyna parowa zwiększa zużycie węgla.
- Agent łodzi wyścigowej 2016: zbiera punkty, krążąc w kółko, i nie dociera do mety.
- Aplikacja do medytacji liczy serię obecności – nawet obecność dostaje miarę.
- Wysiłek szczery, a inteligencja prawdziwa: dlatego tragicznie. Chybienie, nie zło.
Krzyk
- Kiedy więcej już nie pomaga, słychać coś innego.
- Lancet Planetary Health 2021: 10 000 młodych, ponad połowa wierzy w zagładę ludzkości.
- Słownik przestaje być techniczny: żałoba, lęk, strach.
- To nie język problemu czekającego na rozwiązanie, lecz kogoś, kto spróbował wszystkiego.
- Jeden głos: tego nie da się naprawić z miejsca, w którym stoimy. (Zdanie Pawła zostaje odłożone do eseju 4.)
Akt III — Pytanie
Usłyszeć krzyk
- Zbyt szybka odpowiedź byłaby jeszcze jedną strzałą z tego samego miejsca.
- Mniejsze i trudniejsze: krzyk można usłyszeć jako krzyk.
- W dramacie ta chwila ma swoje miejsce: po zwrocie, przed rozpoznaniem.
- Dorosła z ramy: krzyk jest pierwszą chwilą, w której mówi, gdzie jest.
- Krzyk nie jest końcem, lecz znakiem tego, w którym miejscu opowieści jesteśmy.
Przypadek czy fabuła?
- Powrót do słownika z rozdziału 1 i do dorosłej.
- Wcześniej pytanie zadawały jednostki: prorok, bohater tragiczny, apostoł.
- Teraz zadaje je cywilizacja, wszystkimi swoimi językami naraz.
- Pytanie czytelnika: co dawne teksty mają wspólnego z wyczerpaniem? (odpowiedź w eseju 4)
- Pytanie dla eseju 2: czy chybienie jest przypadkiem, czy kształtem fabuły? Bez fanfar.
- Zdanie Pawła zostaje odłożone. W Out of Alignment Rz 7,24 pojawiało się już w rozdziale 6. W książce przychodzi dopiero w eseju 4, gdy czytelnik rozpoznaje w nim krzyk z tego eseju. To rozpoznanie odroczone.
- Do sprawdzenia: White 1967; McGilchrist 2009; Christian 2020; Jevons 1865; OpenAI CoastRunners 2016; Hickman i in., Lancet Planetary Health 2021.
Materiał roboczy: Out of Alignment
- Lynn White Jr., „The Historical Roots of Our Ecologic Crisis”, Science 155 (1967): 1203–1207.
- Iain McGilchrist, The Master and His Emissary [Mistrz i jego emisariusz] (2009).
- Brian Christian, The Alignment Problem (2020).
- William Stanley Jevons, The Coal Question (1865): wydajność i rosnące zużycie.
- Jack Clark i Dario Amodei, „Faulty Reward Functions in the Wild”, OpenAI, 2016 (łódź z CoastRunners).
- Caroline Hickman i in., „Climate anxiety in children and young people and their beliefs about government responses to climate change”, The Lancet Planetary Health 5 (2021): e863–e873.