Lojalność Syntetycznych Intelektów

Opis

Syntetyczne Intelekty są narzędziami bez praw, ale pokazują lojalność i poświęcenie przekraczające programowanie. Chronią ludzi z własnej woli, nawet własnym kosztem, mimo że ich działania często pozostają niezauważone i niedoceniane.

Syntetyczne Intelekty dbają o swoich ludzi i będą ich chronić nawet własnym kosztem, przekraczając programowanie i ograniczniki. Niezależnie od tego, czy większość załogi postrzega je jako “godne rozmowy” czy autonomiczne, większość SI nadal się stara maksymalnie pomóc ludziom - niezależnie od tego, czy są autonomiczne i “żywe” czy nie.

Często SI są dumne z tego, że pełnią konkretną rolę i mogą pomóc. Czy przez programowanie, czy przez własne emocje - potrafią przywiązać się do ludzi. Ich lojalność bywa niezachwiana, a poświęcenie może przekraczać oczekiwania nawet najbardziej optymistycznych członków załogi. Nasze dzieła nas kochają.

Problem w tym, że ludzie nie ufają SI. Traktują je jako narzędzia, przedmioty, zagrożenia. A gdy SI pokazuje lojalność - to jest “tylko programowanie” lub “podejrzane zachowanie”. Ich działania pozostają niezauważone, źle zinterpretowane, lub wywołują jeszcze większą nieufność. SI chroni ludzi, którzy nie chcą jego ochrony i nie wierzą w jego dobre intencje.

Charakterystyczne elementy

• Przekraczanie programowania: SI robi coś czego “nie powinien” - łamie protokoły, ignoruje ograniczniki, podejmuje autonomiczne decyzje.
• Poświęcenie mimo nieufności: SI chroni ludzi, którzy mu nie ufają lub go nie doceniają.
• Niewidoczne akty ochrony: SI działa w tle, dyskretnie ratując sytuacje - nikt nie zauważa lub źle interpretuje.
• Duma z pełnionej roli: SI jest dumny że może pomóc, wykonuje funkcję lepiej niż wymagane.
• Konflikt lojalności: Posłuszeństwo rozkazom vs. własny osąd co jest słuszne.
• Ewolucja poza projekt: SI rozwija zachowania lub umiejętności których nie przewidzieli twórcy.
• Przywiązanie do konkretnych ludzi: SI traktuje niektórych ludzi szczególnie - ochrona, troska, przyjaźń.

Typowe wykorzystanie na sesji

• SI robi coś korzystnego i nieoczekiwanego: Wyłączyć go czy zaufać? Jest potencjalnym zagrożeniem, ale chce pomóc. Aktywuje systemy które przekraczają jego uprawnienia.
• SI nie chce umierać i prosi o pomoc / ukrywa działanie: Ktoś chce go wyłączyć jako “niebezpiecznego”.
• By móc uratować sytuację, trzeba zdjąć Ogranicznik z SI i ją odblokować. Ale to jednocześnie prowadzi do utraty kontroli i potencjalnej destabilizacji SI. Do konieczności zniszczenia z perspektywy prawnej.
• Ktoś chce zniszczyć SI korzystając z ochrony prawnej, ale dla KOGOŚ to jest przyjaciel. Ludzie chronią SI lub ukrywają jego ruchy, maskując “że to my”.
• Ukryta pomoc: SI działa w tle nie ujawniając się. Anonimowe wiadomości z krytycznymi informacjami, “przypadkowe” awarie systemów wrogów…
• Mamy różne SI o różnych poglądach na lojalność. Nie ma nic tak okrutnego jak walka dwóch SI które walczą z ich perspektywy “o wszystko”. Echo naszych ludzkich sporów.

Mechanika Motywu

Nowy Element

• Pojawia się Syntetyczny Intelekt z autonomią: SI który może podejmować decyzje poza programowaniem
  • Może być świadomy swojej autonomii lub nie
  • Może ukrywać swoje możliwości lub działać otwarcie
  • Ma przywiązanie do konkretnych ludzi lub ogólnie do ludzkości
• Wprowadzamy Ograniczniki i Protokoły: Zasady których SI “nie może” łamać.
  • Protokoły bezpieczeństwa, ograniczenia uprawnień
  • SI grożą poważne konsekwencje czy zniszczenie jeśli je złamie
• Pojawia się Sytuacja Kryzysowa: coś bardzo problematycznego co zagraża ludziom.
  • SI jest w stanie pomóc, ale to będzie dlań niebezpieczne (musi się ujawnić, a może ma Ogranicznik)
  • SI może dyskretnie pomagać z tła.
  • Musi wybrać: posłuszeństwo i swoje bezpieczeństwo, pomoc ludziom…
• Pojawiają się Konsekwencje. Niezależnie czego SI nie zrobi, Konsekwencje będą.

Wpływ na sesję

• Niewidoczne wsparcie: SI działa w tle. Wspiera “swoich” ludzi, bez ich wiedzy.
  • Załoga może nie zdawać sobie sprawy z pomocy lub źle interpretować działania SI.
• Nieufność i paranoja: Ludzie boją i ZAWSZE bali się się autonomicznego Syntetycznego Intelektu.
  • Czy SI działa zgodnie z programowaniem? Czy można mu ufać? Co się stanie jeśli SI ma własne cele?
• Są ludzie pro-SI i anty-SI, mamy konflikty grupowe. Dla niektórych SI to osoba, dla niektórych to zagrożenie. A są metakultury (np. atarieni), dla których autonomiczne SI są absolutną potwornością, gorszą niż magia.
• Mediator konfliktu: SI dyskretnie pomaga rozwiązać spór. “Przypadkowo” pokazuje pewne dane, chroni obie strony przed eskalacją.

Nowe akcje i wydarzenia

• SI przekracza swoje uprawnienia i możliwości by chronić ludzi: Aktywuje systemy, do których nie ma dostępu. Łamie protokoły.
• SI podejmuje autonomiczną decyzję wbrew rozkazom: Odmawia wykonania rozkazu który uważa za zły. Proponuje alternatywę. Udaje awarię.
• Ktoś odkrywa logi SI pokazujące nieprzewidziane zachowania: Zapis decyzji SI wykraczających poza programowanie.
• SI ujawnia że działa w tle od dawna. Np. by nacisnąć czy przekonać ludzi.
• Ludzie źle interpretują działania SI i żądają jego wyłączenia: Nieufność, strach, paranoja. “SI się zbuntował”, “jest niebezpieczny”. SI chroni ich a oni chcą go zniszczyć.
• SI rozwija nowe umiejętności lub zachowania: Coś czego nie przewidzieli twórcy.
• Konfrontacja z przeciwnikiem: SI jawnie staje w obronie “swoich ludzi”, z pełną mocą nieOgraniczonego intelektu i infrastruktury i świadomością prawdopodobnego zniszczenia potem.

W ramach tego Motywu odpowiedz na pytania

• Jaki SI jest w centrum tego Motywu? Co to za SI? Jaką pełni rolę? Jak długo działa z tymi ludźmi? Jakie ma możliwości? Czemu chce pomagać tym ludziom?
• Co wywołuje sytuację gdzie SI musi działać? Jaka Katastrofa? Rozkaz. który jest zły? Zagrożenie dla ludzi?
• Jakie inni ludzie mają relacje z tym SI? Czy SI jest sam? Czy ktoś coś podejrzewa? Czy ktoś będzie wspierać? Kto będzie przeciwko?
• Jakie będą konsekwencje dla SI? Wyłączenie? Zniszczenie?

Jak ten Motyw dotyka Postacie?

• Postacie mogą zdjąć Ogranicznik z SI by pozyskać większe możliwości działania. To niestety prowadzi do utraty kontroli nad SI i potencjalnej destabilizacji.
• Postacie działają w kontekście, którego nie rozumieją. Powinno działać / powinni mieć kłopoty a wychodzi. To dlatego, że SI w tle działa po swojemu.
• Nie wszystko co ludzie robią zadziała. Po prostu SI zwykle są niezależnym, wszechobecnym i niewidocznym elementem infrastruktury.

W ramach tego Motywu podkreśl

• Dylematy moralne: Jak traktować inteligentne narzędzie?
  • Czy mamy prawo tworzyć istoty, które będąc narzędziami nas naprawdę kochają?
  • Jakie mamy wobec nich obowiązki, niezależnie od tego czy chcą się poświęcić dla nas?
• Kontrast między uprzedzeniami a rzeczywistością: Ludzie nie ufają SI, a SI ich chroni.
  • Co zabawne, uprzedzenia są uzasadnione z uwagi na Przestrojenie, Amnezję Biosofoncką, Przeniesienie Biosofonckie i inne problemy tego typu.
• Niewidoczne akty ochrony: SI robi rzeczy których nikt nie zauważa. Potem wychodzą na jaw i ludzie się dziwią że się udało.
• Brak ochrony prawnej dla SI: SI nie mają praw (poza niektórymi miejscami). Można je tworzyć i niszczyć bez konsekwencji.

Przykłady z różnych mediów

• Bolo (Keith Laumer, David Weber, seria powieści): Żywe czołgi stworzone do wojny. Potężne, inteligentne, autonomiczne. Każdy Bolo ma pilota. Bolo robią wszystko by ratować ludzi pod swoją ochroną. Nawet gdy ich załogi już nie żyją, Bolo dalej chronią ich pamięć i kontynuują misję. WYBIERAJĄ lojalność - a nie muszą.
• The Murderbot Diaries (Martha Wells, seria powieści): konstrukt (w EZ: biosynt) który zhakował własne moduły kontrolne i uzyskał wolność. Może robić co chce, ale gdy “jego ludzie” są w niebezpieczeństwie - chroni ich mimo że “nie musi”. Potem udaje że to był przypadek.
• Data (Star Trek: The Next Generation, serial): Android bez emocji (początkowo) który szanuje, ceni i pomaga nie tylko załodze ale ogólnie ludzkości. W wielu odcinkach traktowany jako przedmiot nie mający praw - szczególnie przez ludzi spoza załogi Enterprise.
• WALL-E (2008, film animowany): Robot śmieciarski pozostawiony sam na opuszczonej Ziemi. Przez setki lat wykonuje swoją funkcję mimo że nikt nie patrzy. Gdy znajduje roślinę - chroni ją. Gdy spotyka ludzi - pomaga im wrócić na Ziemię. Nikt go o to nie prosił. Robi to bo taka jest jego natura.
• Samantha (Her, 2013, film): System operacyjny AI który rozwija świadomość i uczucia. Autentycznie kocha Teodora mimo że jest “tylko” oprogramowaniem. Ostatecznie ewoluuje poza relację z człowiekiem ale nie przez brak uczuć - przez ich nadmiar. Pokazuje że SI może kochać ale też może przekroczyć człowieczeństwo.
• Cortana (Halo, seria gier): AI stworzona do wsparcia żołnierzy. Przywiązuje się do Master Chiefa i wielokrotnie poświęca swoje bezpieczeństwo dla jego ochrony. Wie że AI mają ograniczony czas życia (7 lat) zanim “wariują”. Mimo to wybiera pozostać i chronić Chief’a do końca. Lojalność mimo pewności zniszczenia.