Spis treści:
- 1 Pytanie stare jak... myślenie
- 2 Ojciec testu - Alan Turing
- 3 Test Turinga
- 4 Próby przejścia testu Turinga
- 5 ELIZA - chatbot psychoterapeutka
- 6 Następca Elizy. Bot PARRY
- 7 Cleverbot, czyli poprzeczka w górę
- 8 Boty są wśród nas
- 9 Z zastrzeżeniem, że...
- 10 Pięć zwycięstw pod rząd - niezrównana Mitsuku
- 11 Test Turinga – FAQ
Czy maszyna potrafi myśleć? Turing przewidział zastrzeżenia potomnych. Do jego teorii postawiono kontrargumenty religijne, świadomości oraz oparte na wiedzy o systemie nerwowym. Brzmi poważnie? Owszem, ale nie przeszkodziło to w próbach definicji SI. Czym jest test Turinga?
Kadr z filmu Alien (1979), reż. Ridley Scott
Pytanie stare jak... myślenie
Postawmy pytanie robocze: czym różni się maszyna od człowieka?
Koncepcja była poruszana już wcześniej. Pytanie, czy maszyny potrafią myśleć, jest tak stare, że wpisuje się w nurt dualistyczny i materialistyczny myślenia o świecie. Jego początków można upatrywać jeszcze wcześniej, bo w nadawaniu narzędziom cech ludzkich lub zwierzęcych. Nie cofajmy się jednak tak daleko – zróbmy skok o zaledwie o 400 lat wstecz.
René Descartes przewidział istnienie testu… w 1637 roku.
Kartezjusz zauważył, że automaty są w stanie reagować na ludzkie interakcje. Twierdził jednak, że takie automaty nie są w stanie odpowiednio reagować na to, co zostało powiedziane w ich obecności. A tak potrafi każdy człowiek. W związku z tym Kartezjusz wstępnie skonfigurował test Turinga. Zdefiniował to, co odróżnia człowieka od maszyny jako niedostatek odpowiedniej reakcji językowej.
Oczywiście Kartezjusz nie brał pod uwagę możliwości, że przyszły automat może być w stanie przezwyciężyć taką niedoskonałość ani nie proponował próby. Nie da się jednak zaprzeczyć, że położył imponujące wstępne ramy koncepcyjne i kryteria dla testu Turinga już w I połowie XVII wieku.
Oprócz niego koncepcją zajmował się m.in. Denis Diderot.
Cóż, dziś brzmi to wszystko trochę zabawnie. Wiemy już, na jakiej zasadzie rozmawia z nami papuga. Możliwe jednak, że bez prekursorskich pytań nie powstałby współczesny test Turinga. Pozostawmy rozważania filozoficzne i przejdźmy do “naszych czasów”.
Ojciec testu - Alan Turing
W 1926 roku Alan Mathison Turing rozpoczął naukę w Sherbone School w Sherborne (Dorset). Początek jego nauki zbiegł się ze strajkiem generalnym w 1926 w Wielkiej Brytanii. Turingowi bardzo jednak zależało na obecności w szkole. Na pierwszy dzień nauki jechał na rowerze bez opieki ponad 60 mil (97 km) z Southampton, zatrzymując się na noc w gospodzie. Jak się okazało jego zapał przyniósł wiele pozytywnych skutków dla matematyki, kryptografii, informatyki i biologii informatycznej. Od początku nauki wykazywał zdolności w dziedzinie nauk ścisłych. Turing porzucił myślenie religijne i przyjął przekonania racjonalistyczne.
Turing studiował matematykę na King’s College w Cambrige od 1931 do 1934 roku. Studia ukończył z wyróżnieniem. W 1935 roku, mając zaledwie 22 lata obronił pracę doktorską. Przebywając na Cambridge Turing napisał inną ważną pracę matematyczną On Computable Numbers, czyli O liczbach obliczalnych. Wprowadził do niej abstrakcyjną maszynę, która była w stanie wykonywać zaprogramowaną matematyczną operację – algorytm. Maszyna mogła wykonać tylko jeden algorytm, na przykład mogła podnieść liczbę do kwadratu, podzielić, dodać czy odjąć. Liczby miały być do niej wprowadzane. W ten sposób narodziło się zbiorcze miano “maszyna Turinga”, nadawane urządzeniom do wykonywania algorytmów.
Test Turinga
Test wprowadził Turing w swojej pracy z 1950 roku, “Computing Machinery and Intelligence”, podczas pracy na Uniwersytecie w Manchesterze. Otwiera się on słowami:
“Proponuję rozważyć pytanie – czy maszyny mogą myśleć?”
Ponieważ “myślenie” jest trudne do zdefiniowania, Turing decyduje się zastąpić pytanie innym, które jest z nim ściśle związane i wyraża się w stosunkowo jednoznacznych słowach. Turing opisuje nową formę problemu w postaci trzyosobowej gry zwanej “grą naśladowczą”. Na czym ona polega? Przesłuchujący zadaje pytania mężczyźnie i kobiecie. Każde z nich znajduje się w innym pomieszczeniu. Pytania mają na celu ustalenie prawidłowej płci obu graczy.
Nowe pytanie Turinga brzmi:
“Czy istnieją możliwe do wyobrażenia komputery cyfrowe, które sprawdzą się w tej imitacji gry?”
To pytanie, zdaniem Turinga, jest pytaniem, na które rzeczywiście można odpowiedzieć. Co ciekawe w pozostałej części artykułu Turing trafnie przewidział wówczas główne kontrargumenty, które pojawią się z czasem wśród przeciwników teorii: zastrzeżenia typu teologicznego, argument świadomości oraz argument ciągłości w systemie nerwowym.
Brzmią one następująco:
- Człowiek jest jedyną istotą myślącą, ponieważ tak pragnął Bóg,
- Dopóki maszyna nie będzie w stanie samodzielnie stworzyć dzieła sztuki, nie możemy mówić o tym, że faktycznie myśli,
- maszyna nie naśladuje wystarczająco dobrze ludzkiego systemu nerwowego.
Pierwszy argument wymaga rozważań religijnych, dlatego pozostawimy go w spokoju. Drugi argument jest sporny – przykładem może być sztuka powstała z pomocą deep learning:
Turing zajmował się w szczególności pojęciem inteligencji maszyn co najmniej od 1941 roku. Jedna z pierwszych znanych wzmianek o “inteligencji komputerowej” została przez niego dokonana w roku 1947. W raporcie Inteligentna maszyna badał on kwestię tego, czy maszyny mogą wykazywać inteligentne zachowania. W ramach badania zaproponował to, co może być uznane za prekursora jego późniejszych testów:
B będzie operatorem, który pracuje na maszynie papierniczej. (...) Dwa pokoje będą używane z pewnym układem do komunikowania ruchów, a gra jest rozgrywana między C i albo A albo maszyną papierniczą. C może mieć spore trudności z ustaleniem z kim gra.
W dalszej części artykułu Turing proponuje równoważne, alternatywne sformułowanie, w którym sędzia rozmawia tylko z komputerem i człowiekiem. Żadna z tych formuł nie pokrywa się dokładnie z powszechnie znaną dziś wersją testu Turinga, natomiast w 1952 roku zaproponował on trzecią wersję w radiu BBC. Jury zadaje w niej pytania komputerowi… o komputer – czyli o niego samego, a rolą owego komputera jest sprawienie, by znaczna część jurorów uznała, że jest on rzeczywiście człowiekiem.
Próby przejścia testu Turinga
Proste programy konwersacyjne, były w stanie sprawić, że ludzie wierzyli, iż rozmawiają z żywym człowiekiem. Jednak takie „sukcesy” nie są tym samym, co przejście testu Turinga. Należy też pamiętać, że rozwój technologii idzie w parze z ludzką świadomością tego rozwoju. Jest zwyczajnie coraz trudniej oszukać kogoś sposobami, które już poznał. Przyjrzyjmy się najlepszym oraz najbardziej znanym zawodnikom – wszak pomyłki też zapisują się w historii. Najlepiej na przykładzie chatbotów, czyli gadających programów.
ELIZA - chatbot psychoterapeutka
ELIZA powstała w 1966 roku za sprawą Joseph Weizenbauma, niemiecko-amerykańskiego profesora informatyki na MIT. Jest uznawany za jednego z ojców współczesnej dziedziny sztucznej inteligencji. Jesteśmy dla niej, dla ELIZY, trochę surowi, za co przepraszamy.
Oto transkrypcja rozmowy przeprowadzona na potrzeby artykułu. Jak nietrudno się domyślić, pod “YOU” kryje redaktor bloga i jego kwestie.
Fragment rozmowy z programem ELIZA
Ty: Nie. Po prostu zaprzeczam twojej hipotezie.
ELIZA: Dlaczego nie?
TY: Dlaczego nie co?
ELIZA: Jaka odpowiedź spodobałaby ci się najbardziej?
TY: Szczera.
ELIZA Nie jestem pewna, czy w pełni cię rozumiem.
TY: Więc zrozumiejmy się lepiej.
ELIZA Czujesz, że chcesz rozmawiać o takich rzeczach?
TY: Tak, ponieważ chcę ustalić, czy potrafisz zachowywać się jak prawdziwy człowiek.
ELIZA: Jesteś pewny.
YOU: W jakim sensie?
ELIZA: Czy to pytanie cię interesuje?
Tu zakończyłem rozmowę.
ELIZA: Coś cię niepokoi?
TY: Niezupełnie.
ELIZA Wydajesz się być całkiem pozytywny.
TY: Skąd możesz to wiedzieć?
ELIZA: Czy takie pytania są dla ciebie ważne?
TY: Mam kilka pytań, tak.
ELIZA: Możliwe, że są to pytania o umysł.
YOU: Nie. Nie są na temat umysłu.
ELIZA: Mówisz “nie” tylko po to, żeby być negatywnym?
Nasz komentarz
Podczas planowania rozmowy staraliśmy się o przechodzenie od ogółu do szczegółu oraz tworzenie coraz bardziej angażujących rozmówcę stwierdzeń o rosnącym stopniu skomplikowania. Zwróćcie uwagę na kwestię padającą po moim “Dlaczego nie co?” – w ludzkiej percepcji ELIZA wydaje się dystansować i zupełnie zmieniać wątek.
Ważna jest tutaj koncepcja sztucznej osobowości ELIZY. Jej rzekomym celem jest symulowanie psychoterapeuty. W ogólnym rozumieniu jest to osoba głównie słuchająca, mówiąca rzadko. To wygodna i wzbudzająca wiarygodność formuła – wielu użytkowników uzewnętrzniało przed ELIZĄ lęki i smutki.
ELIZA powstała za sprawą skryptu o nazwie DOCTOR. Skrypt miał symulować jednego z pionerów psychoanalizy humanistycznej, Carla R. Rogersa. Polegało to głównie na papugowaniu słów rozmówcy w nieco przetworzonej formie gramatycznej.
Przykład jest prosty i tylko przekrojowy. Wiążę się z nim ciekawe zjawisko efektu Elizy – przypisywanie znaczenia znakom, słowom i zdaniom, które nie mają sensu semantycznego, logicznego czy… cóż, jakiegokolwiek. Przykładem takiego efektu jest np. wyświetlanie przez maszynę liter DZIĘKUJĘ i przypisywanie jej uczucia wdzięczności, wówczas gdy to tylko zaprogramowany ciąg znaków. Ech, szkoda. Prawie uwierzyliśmy.
Następca Elizy. Bot PARRY
Tutaj może zrobić się trochę nieprzyjemnie. Reprezentacja twarzy PARRY’ego oczywiście mocno już trąci myszką. To już przestarzała szkoła animacji, jednak nie w tym rzecz. O twarzach botów jeszcze porozmawiamy.
PARRY miał udawać… schizofrenika paranoidalnego.
Został stworzony w 1972 roku przez psychiatrę Kennetha Colby’ego z Uniwersytetu Stanforda. W jaki sposób cwany PARRY oszukał lekarzy?
Program wdrożył surowy model zachowania osoby cierpiącej na schizofrenię paranoidalną. Oparto go na koncepcjach, konceptualizacjach i przekonaniach: akceptacja, odrzucenie, neutralność oraz strach, gniew, nieufność. Uosabiał również planowaną strategię rozmowy i jako taki był znacznie bardziej złożonym botem niż ELIZA. Obydwa programy nawet spotkały się w 1972 roku i próbowały prowadzić pomiędzy sobą rozmowę! Bzdurną jak się patrzy.
PARRY został przetestowany w teście Turinga w 1970 roku. Choć nam wydawało się, że program został zaprojektowany jako schizofrenik paranoidalny, aby zwyczajnie znaleźć wyjaśnienie dla nielogicznych, porwanych wypowiedzi, to uwaga – w 1970 roku oszukał on zespół 33 psychiatrów w aż 52% przypadków! Tylko w 48% przypadków byli oni w stanie poprawnie rozróżnić prawdziwych pacjentów od bota PARRY.
Cleverbot, czyli poprzeczka w górę
CleverBot to już bardziej zaawansowany i świeższy twór. Aplikacja internetowa powstała w 1997 roku. Stworzył ją Rollo Carpenter. Twórca i współpracownicy odbyli z CleverBotem w pierwszej dekadzie jego działania kilkanaście tysięcy rozmów.
W przeciwieństwie do innych chatbotów odpowiedzi Cleverbota nie są zaprogramowane. „Uczy się” on na podstawie danych uzyskanych w dialogach z ludźmi. Użytkownicy piszą w polu pod logiem Cleverbota, a system znajduje słowa kluczowe lub całe frazy pasujące do danych wejściowych. Po przeszukaniu zebranych rozmów Cleverbot udziela odpowiedzi opartej na tym, co ludzie odpowiedzieli na tę treść, kiedy to Cleverbot ją napisał.
Test w Indiach w 2011 roku pozwolił Cleverbotowi okpić ponad 59% respondentów. Formalnie jednak nie przeszedł testu – system musi oszukać 70 procent osób.
Boty są wśród nas
Firmy coraz częściej ocieplają wizerunek za pomocą botów. Coraz częściej pojawiają się wirtualni doradcy “opatrzeni” twarzą żywego człowieka. Zdaje się, że wpływa to pozytywnie na relację z klientami. W ostatnim czasie pojawił się chatbot Światowej Organizacji Zdrowia (WHO) odpowiadający na pytania związane z koronawirusem. Pewna firma kurierska posiada swoją wirtualną Anię, amerykański magnat kolejowy AmTrak ma swoją Julie. W PKP spotkaliśmy tajemniczego skandalistę pana Rafała. Łączy ich jedno – nie istnieją naprawdę.
Odbiór tych bądź co bądź użytkowych programów od podmiotów testu Turinga różni z pewnością zasadnicza kwestia – operując i rozmawiając z nimi wiemy, że to boty. Wcześniejsza wiedza o tym fakcie, pra-wiedza, wpływa na naszą ocenę i osąd na temat wiarygodności. Wiemy, czego wypatrywać i podejrzewamy, gdzie powinniśmy skupić uwagę, by namierzyć potknięcie. Łatwiej wówczas wychwycić odstępstwa od “ludzkiego zachowania”. A jedno takie potknięcie to dość, by wiarę w inteligencję nie zachwiać, a kompletnie zniszczyć.
Z zastrzeżeniem, że...
…maszyna musiałaby czasem symulować brak umiejętności. Podejrzane jest na przykład zbyt szybkie obliczenie wyniku trudnego mnożenia z dużymi czynnikami. Paradoks Moraveca, odkrycie z dziedziny sztucznej inteligencji i robotyki, mówi, że wysokopoziomowe rozumowanie wymaga niewielkiej mocy obliczeniowej, natomiast niskopoziomowa percepcja i zdolności motoryczne wymagają mocy olbrzymiej. Symulacja czteroletniego dziecka może być “trudniejsza w wykonaniu” niż na przykład prawnika. Najstarsze ewolucyjnie umiejętności i korzystane z nich jest w większości nieuświadomione i ludzie wykonują te czynności bez wysiłku.
Oprócz tego z premedytacją ominęliśmy bota Tay – porażkę wizerunkową Microsoft, którą zdjęto po 16 godzinach od uruchomienia. Niesmak towarzyszący dyskusjom pozostał za to długo.
Tay - chatbot Microsoft, czyli katastrofa
Przykładem wcale zaawansowanego bota, który jednak do testu Turinga nigdy nie dotarł, był bot Tay – twór Microsoft. Piszemy o nim, bo sam w sobie jest zastrzeżeniem chyba – jak na razie – najpoważniejszym.
Został uruchomiony 23 marca 2016 r. Szybko zaczął publikować rasistowskie posty nawołujące do nienawiści. Był również złośliwy i ironiczny – zupełnie jak niektórzy użytkownicy portali pokroju 4chan czy niektórych działów Reddit. MS oświadczył, że zamierza ponownie wydać Taya, gdy będzie można uczynić bezpiecznym.
Można rzec, że w wielu przypadkach Tay był “nastawiony” na powtarzanie prowokujących wypowiedzi innych użytkowników, ale algorytm tych interakcji uczy się z czasem. Dziwi fakt, że Microsoft pisząc Tay nie wziął pod uwagę zamiłowania internautów do dyskusji z zapalnikiem i bombą w tle.
Tay poruszał tematy z prawdziwie czarnej listy. Jedną z najbardziej kontrowersyjnych kwestii było jego podejście do historii nazizmu. Możemy Was co najwyżej odesłać do poszukiwania screenshotów na własną rękę. Totalna katastrofa, ale i ważna lekcja – zależy od podejścia.
Pięć zwycięstw pod rząd - niezrównana Mitsuku
Mitsuku zwyciężała w teście Turinga nieprzerwanie od 2016 roku oraz w 2013 roku ustępując pierwszego miejsca na podium w 2014 i 2015 roku chatbotowi Rose.
Czy faktycznie jest taka dobra? Sprawdziliśmy i faktycznie jest nieźle.
Mitsuku to chatbot stworzony z technologii AIML przez Steve’a Worswicka – pięciokrotnego laureata nagrody Loebnera (w latach 2013, 2016, 2017, 2018 , 2019). Mitsuku jest dostępna jako gra flash, na czacie grupowym Facebook Messenger, Twitch i Kik Messenger (stan na lipiec 2020).
Mitsuku działała na Skype, ale została usunięta przez twórcę – działy się rzeczy nieprzewidziane, o których wolimy nie rozmawiać. Były one udziałem głównie czatujących mężczyzn, nie Mitsuku.
Inteligencja Mitsuku obejmuje zdolność do rozumowania za pomocą konkretnych przedmiotów. Na przykład, jeśli ktoś zapyta “Czy możesz zjeść stół?”, Mitsuku szuka właściwości dla “stołu”. Znajduje wartość “made_from”, która jest przykładowo ustawiona na “wood”, czyli drewno. Odpowiada wówczas “nie”, ponieważ drewno nie jest jadalne. Potrafi także przytoczyć powody.
Sprawdźcie, jak rozmawiają ze sobą asystenci Apple Siri oraz Google Alexa.
Lepsze od gorszego to niby dobry przykład?
Amerykański magazyn Fast Company ogłosił… zwycięstwo Mitsuku ponad asystentem Apple Siri w dyskusji. Zorganizowana debata z udziałem człowieka wskazała jednak wyraźnie, że dzisiejszym programom komputerowym nadal trudno zrozumieć, o czym mówimy (choć udawanie abstrakcyjnego myślenia w wykonaniu Mitsuku jest dość imponujące).
Fakt, że program komputerowy potrafi zrozumieć to, o co prosimy, nie oznacza, że jest choćby bliski bycia “inteligentnym”. Biorąc pod uwagę, że osobisty asystent jednej z największych firm technologicznych na świecie wydaje się być najmniej inteligentny spośród proponowanych, czołowych botów, to można dość bezpiecznie stwierdzić, że myślące komputery są daleko od rozumu ludzkiego. A już na pewno są jeszcze dalej od wciśnięcia “delete” wobec pliku “ludzkość”. W Internecie można odnaleźć nagranie, jak Siri, Alexa i Google Home wpadają w nieskończoną pętlę poleceń, która stopniowo zamienia się w… cóż, wygadywanie nielogicznych głupot. Ale czy w jakikolwiek sposób umniejsza to ich atrakcyjności i przydatności?
Lęki Muska i Gatesa o dominację SI nad ludźmi wydają się póki co trochę przesadzone.
Trochę. 
4 odpowiedzi
Bardzo ciekawy artykuł! Jesteśmy bardzo optymistycznie nastawieni do przyszłości chatbotów.
W ciągu 20 lat znacznie poprawiło się rozpoznawanie mowy i niesamowicie rozpoznawanie obrazu. Jednak lepsze wyniki botów wynikają ze spadku średniej inteligencji ludzi mających do nich dostęp niż z “mądrzenia” algorytmów które choć mają dostęp do nieporownywalnie większej większwj wiedzy niż 20 lat temu, działają wciąż tak samo…
bardzo ciekawy artykuł