Test Turinga zdany? Naukowcy nie są zgodni. Czym w ogóle jest?

Share on facebook
Share on twitter
Share on linkedin
Czas czytania: 9 min.

Czy maszyna potrafi myśleć? 

Turing przewidział zastrzeżenia potomnych. Do jego teorii postawiono kontrargumenty religijne, świadomości oraz oparte na wiedzy o systemie nerwowym. Brzmi poważnie? Owszem, ale nie przeszkodziło to w próbach definicji SI. Czym jest test Turinga?

Konfrontacja Ripley (Sigourney Weaver) i Asha (sir Ian Holm) na pokładzie Nostromo. Ash jest maszyną, kto by pomyślał...? Alien (1979), reż. Ridley Scott

Pytanie stare jak... myślenie

Postawmy pytanie robocze: czym różni się maszyna od człowieka?

Koncepcja była poruszana już wcześniej. Pytanie, czy maszyny potrafią myśleć, jest tak stare, że wpisuje się w nurt dualistyczny i materialistyczny myślenia o świecie. Jego początków można upatrywać jeszcze wcześniej, bo w nadawaniu narzędziom cech ludzkich lub zwierzęcych. Nie cofajmy się jednak tak daleko – zróbmy skok o zaledwie o 400 lat wstecz. 

René Descartes przewidział istnienie testu… w 1637 roku.

Wiele różnych automatów lub ruchomych maszyn może być wykonanych przez przemysł człowieka... Możemy bowiem łatwo zrozumieć, że maszyna została stworzona w taki sposób, że może wypowiadać słowa, a nawet emitować pewne reakcje na działanie na nią rodzaju cielesnego, co powoduje zmiany w jej organach. Na przykład, jeśli dotkniemy jakiejś części, może ona zapytać, co chcemy jej powiedzieć; jeśli w innej części może wykrzyknąć, że jest ranna, i tak dalej. Ale nigdy nie zdarza się, aby układała swoją mowę na różne sposoby, aby odpowiedzieć odpowiednio na wszystko, co może być powiedziane w jej obecności, jak to może zrobić nawet najniższy typ człowieka.
Rene Descartes Kartezjusz
Kartezjusz
Rozprawa o metodzie (1637)

Kartezjusz zauważył, że automaty są w stanie reagować na ludzkie interakcje. Twierdził jednak, że takie automaty nie są w stanie odpowiednio reagować na to, co zostało powiedziane w ich obecności. A tak potrafi każdy człowiek. W związku z tym Kartezjusz wstępnie skonfigurował test Turinga. Zdefiniował to, co odróżnia człowieka od maszyny, jako niedostatek odpowiedniej reakcji językowej. 

Oczywiście Kartezjusz nie brał pod uwagę możliwości, że przyszły automat może być w stanie przezwyciężyć taką niedoskonałość ani nie proponował próby. Nie da się jednak zaprzeczyć, że położył imponujące wstępne ramy koncepcyjne i kryteria dla testu Turinga już w I poł. XVII wieku.

Oprócz niego koncepcją zajmował się m.in. Denis Diderot.

 

Jeśli znajdą papugę, która odpowie na wszystko, bez wahania uznam ją za inteligentną istotę.
Denis Diderot
Myśli filozoficzne (1746)

Cóż, dziś brzmi to wszystko trochę zabawnie. Wiemy już, na jakiej zasadzie rozmawia z nami papuga. Możliwe jednak, że bez prekursorskich pytań nie powstałby współczesny test Turinga. Pozostawmy rozważania filozoficzne i przejdźmy do „naszych czasów”.

Ojciec testu - Alan Turing

W 1926 roku Alan Mathison Turing rozpoczął naukę w Sherbone School w Sherborne (Dorset). Początek jego nauki zbiegł się ze strajkiem generalnym w 1926 w Wielkiej Brytanii. Turingowi bardzo jednak zależało na obecności w szkole. Na pierwszy dzień nauki jechał na rowerze bez opieki ponad 60 mil (97 km) z Southampton, zatrzymując się na noc w gospodzie. Jak się okazało jego zapał przyniósł wiele pozytywnych skutków dla matematyki, kryptografii, informatyki i biologii informatycznej. Od początku nauki wykazywał zdolności w dziedzinie nauk ścisłych. Turing porzucił myślenie religijne i przyjął przekonania racjonalistyczne. 

Turing studiował matematykę na King’s College w Cambrige od 1931 do 1934 roku. Studia ukończył z wyróżnieniem. W 1935 roku, mając zaledwie 22 lata obronił pracę doktorską. Przebywając na Cambridge Turing napisał inną ważną pracę matematyczną On Computable Numbers, czyli O liczbach obliczalnych. Wprowadził do niej abstrakcyjną maszynę, która była w stanie wykonywać zaprogramowaną matematyczną operację – algorytm. Maszyna mogła wykonać tylko jeden algorytm, na przykład mogła podnieść liczbę do kwadratu, podzielić, dodać czy odjąć. Liczby miały być do niej wprowadzane. W ten sposób narodziło się zbiorcze miano „maszyna Turinga”, nadawane urządzeniom do wykonywania algorytmów. 

 

Alan Mathison Turing
Alan Turing (1912-1954)

Test Turinga

Test wprowadził Turing w swojej pracy z 1950 roku, „Computing Machinery and Intelligence”, podczas pracy na Uniwersytecie w Manchesterze.  Otwiera się słowami:

 „Proponuję rozważyć pytanie – czy maszyny mogą myśleć?” 

Ponieważ „myślenie” jest trudne do zdefiniowania, Turing decyduje się zastąpić pytanie innym, które jest z nim ściśle związane i wyraża się w stosunkowo jednoznacznych słowach. Turing opisuje nową formę problemu w postaci trzyosobowej gry zwanej „grą naśladowczą”. Na czym ona polega? Przesłuchujący zadaje pytania mężczyznie i kobiecie. Każde z nich znajduje się w innym pomieszczeniu. Pytania mają na celu ustalenie prawidłowej płci obu graczy. 

Nowe pytanie Turinga brzmi: 

„Czy istnieją możliwe do wyobrażenia komputery cyfrowe, które sprawdzą się w tej imitacji gry?”

Diagram testu Turinga. A i B, człowiek i maszyna, odpowiadają egzaminatorowi (C).

To pytanie, zdaniem Turinga, jest pytaniem, na które rzeczywiście można odpowiedzieć. Co ciekawe w pozostałej części artykułu Turing trafnie przewidział wówczas główne kontrargumenty, które pojawią się z czasem wśród przeciwników teorii: zastrzeżenia typu teologicznego, argument świadomości oraz argument ciągłości w systemie nerwowym.

Brzmią one następująco:

 

  • Człowiek jest jedyną istotą myślącą, ponieważ tak pragnął Bóg,
  • Dopóki maszyna nie będzie w stanie samodzielnie stworzyć dzieła sztuki, nie możemy mówić o tym, że faktycznie myśli,
  • maszyna nie naśladuje wystarczająco dobrze ludzkiego systemu nerwowego.

Pierwszy argument wymaga rozważań religijnych, dlatego pozostawimy go w spokoju. Drugi argument jest sporny – przykładem może być sztuka powstała z pomocą deep learning:

Deep Learning, ML, machine learning, uczenie maszynowe - obrazy
Imitacja stylu Vincenta Van Gogha przez algorytm neuralny. "New Neural Algorithm Can ‘Paint’ Photos In Style Of Any Artist From Van Gogh To Picasso", źródło: https://www.boredpanda.com/computer-deep-learning-algorithm-painting-masters/?utm_source=google&utm_medium=organic&utm_campaign=organic

Turing zajmował się w szczególności pojęciem inteligencji maszyn co najmniej od 1941 r. Jedna z pierwszych znanych wzmianek o „inteligencji komputerowej” została przez niego dokonana w 1947 r. W raporcie Inteligentna maszyna badał on kwestię tego, czy maszyny mogą wykazywać inteligentne zachowania. W ramach badania zaproponował to, co może być uznane za prekursora jego późniejszych testów:

Nietrudno wymyślić maszynę papierniczą, która rozegra niezłą grę w szachy. Teraz zdobądźmy trzech mężczyzn jako uczestników eksperymentu - A, B oraz C. A i C mają być raczej kiepskimi szachistami.
B będzie operatorem, który pracuje na maszynie papierniczej. (...) Dwa pokoje będą używane z pewnym układem do komunikowania ruchów, a gra jest rozgrywana między C i albo A albo maszyną papierniczą. C może mieć spore trudności z ustaleniem z kim gra.
Alan Mathison Turing

W dalszej części artykułu Turing proponuje „równoważne,  alternatywne sformułowanie, w którym sędzia rozmawia tylko z komputerem i człowiekiem. Żadna z tych formuł nie pokrywa się dokładnie z powszechnie znaną dziś wersją testu Turinga, natomiast w 1952 roku zaproponował on trzecią wersję w radiu BBC. Jury zadaje w niej pytania komputerowi o komputer – niego samego, a rolą owego komputera jest sprawienie, by znaczna część jurorów uznała, że jest on rzeczywiście człowiekiem.

Próby przejścia testu Turinga

Proste programy konwersacyjne, były w stanie sprawić, że ludzie wierzyli, iż rozmawiają z żywym człowiekiem. Jednak takie „sukcesy” nie są tym samym, co przejście testu Turinga. Należy też pamiętać, że rozwój technologii idzie w parze z ludzką świadomością tego rozwoju. Jest zwyczajnie coraz trudniej oszukać kogoś sposobami, które już poznał. Przyjrzyjmy się najlepszym oraz najbardziej znanym zawodnikom – wszak pomyłki też zapisują się w historii. Najlepiej na przykładzie chatbotów, czyli gadających programów.

 

ELIZA - chatbot psychoterapeutka

ELIZA bot ekran
Ekran powitalny programu ELIZA.

ELIZA powstała w 1966 roku za sprawą Joseph Weizenbauma, niemiecko-amerykańskiego profesora informatyki na MIT. Jest uznawany za jednego z ojców współczesnej dziedziny sztucznej inteligencji. Jesteśmy dla niej, dla ELIZY, trochę surowi, za co przepraszamy.

Oto transkrypcja rozmowy przeprowadzona na potrzeby artykułu. Jak nietrudno się domyślić, pod „YOU” kryje redaktor bloga i jego kwestie. 

Fragment rozmowy z programem ELIZA


Ty: Nie. Po prostu zaprzeczam twojej hipotezie.

ELIZA: Dlaczego nie?

TY: Dlaczego nie co?

ELIZA: Jaka odpowiedź spodobałaby ci się najbardziej?

TY: Szczera.

ELIZA Nie jestem pewna, czy w pełni cię rozumiem.

TY: Więc zrozumiejmy się lepiej.

ELIZA Czujesz, że chcesz rozmawiać o takich rzeczach?

TY: Tak, ponieważ chcę ustalić, czy potrafisz zachowywać się jak prawdziwy człowiek.

ELIZA: Jesteś pewny.

YOU: W jakim sensie?

ELIZA: Czy to pytanie cię interesuje?

Tu zakończyłem rozmowę.

ELIZA: Coś cię niepokoi?

TY: Niezupełnie.

ELIZA Wydajesz się być całkiem pozytywny.

TY: Skąd możesz to wiedzieć?

ELIZA: Czy takie pytania są dla ciebie ważne?

TY: Mam kilka pytań, tak.

ELIZA: Możliwe, że są to pytania o umysł.

YOU: Nie. Nie są na temat umysłu. 

ELIZA: Mówisz „nie” tylko po to, żeby być negatywnym?

Nasz komentarz

Podczas planowania rozmowy staraliśmy się o przechodzenie od ogółu do szczegółu oraz tworzenie coraz bardziej angażujących rozmówcę stwierdzeń o rosnącym stopniu skomplikowania. Zwróćcie uwagę na kwestię padającą po moim „Dlaczego nie co?” – w ludzkiej percepcji ELIZA wydaje się dystansować i zupełnie zmieniać wątek.

Ważna jest tutaj koncepcja sztucznej osobowości ELIZY. Jej rzekomym celem jest symulowanie psychoterapeuty. W ogólnym rozumieniu jest to osoba głównie słuchająca, mówiąca rzadko. To wygodna i wzbudzająca wiarygodność formuła – wielu użytkowników uzewnętrzniało przed ELIZĄ lęki i smutki. 

ELIZA powstała za sprawą skryptu o nazwie DOCTOR. Skrypt miał symulować jednego z pionerów psychoanalizy humanistycznej, Carla R. Rogersa. Polegało to głównie na papugowaniu słów rozmówcy w nieco przetworzonej formie gramatycznej. 

Przykład jest prosty i tylko przekrojowy. Wiążę się z nim ciekawe zjawisko efektu Elizy – przypisywanie znaczenia znakom, słowom i zdaniom, które nie mają sensu semantycznego, logicznego czy… cóż, jakiegokolwiek. Przykładem takiego efektu jest np. wyświetlanie przez maszynę liter DZIĘKUJĘ i przypisywanie jej uczucia wdzięczności, wówczas gdy to tylko zaprogramowany ciąg znaków. Ech, szkoda. Prawie uwierzyliśmy.

Następca Elizy. Bot PARRY

Wygaduję nieco głupstw, aby uwiarygodnić resztę moich słów, czyli bot PARRY.

Tutaj może zrobić się trochę nieprzyjemnie. Reprezentacja twarzy PARRY’ego oczywiście mocno już trąci myszką. To już przestarzała szkoła animacji, jednak nie w tym rzecz. O twarzach botów jeszcze porozmawiamy.

PARRY miał udawać… schizofrenika paranoidalnego. 

Został stworzony w 1972 roku przez psychiatrę Kennetha Colby’ego z Uniwersytetu Stanforda. W jaki sposób cwany PARRY oszukał lekarzy?

 

Program wdrożył surowy model zachowania osoby cierpiącej na schizofrenię paranoidalną. Oparto go na koncepcjach, konceptualizacjach i przekonaniach: akceptacja, odrzucenie, neutralność oraz strach, gniew, nieufność. Uosabiał również planowaną strategię rozmowy i jako taki był znacznie bardziej złożonym botem niż ELIZA. Obydwa programy nawet spotkały się w 1972 roku i próbowały prowadzić pomiędzy sobą rozmowę! Bzdurną jak się patrzy.

PARRY został przetestowany w teście Turinga w 1970 roku. Choć nam wydawało się, że program został zaprojektowany jako schizofrenik paranoidalny, aby zwyczajnie znaleźć wyjaśnienie dla nielogicznych, porwanych wypowiedzi, to uwaga – w 1970 roku oszukał on zespół 33 psychiatrów w aż 52% przypadków! Tylko w 48% przypadków byli oni w stanie poprawnie rozróżnić prawdziwych pacjentów od bota PARRY.

Cleverbot, czyli poprzeczka w górę

CleverBot to już nieco bardziej zaawansowany i świeższy twór. Aplikacja internetowa powstała w 1997 roku. Stworzył ją Rollo Carpenter. Twórca i jego współpracownicy odbyli z CleverBotem kilkanaście tysięcy rozmów w pierwszej dekadzie jego działania.

Cleverbot chatbot chat bot
Reprezentacji graficznej twarzy nie ma, ale nie musi. Cleverbot bije ELIZĘ i PARRY'ego na głowę.

W przeciwieństwie do innych chatbotów odpowiedzi Cleverbota nie są zaprogramowane. „Uczy się” on na podstawie danych uzyskanych w dialogach z ludźmi. Użytkownicy piszą w polu pod logiem Cleverbota, a system znajduje słowa kluczowe lub całe frazy pasujące do danych wejściowych. Po przeszukaniu zebranych rozmów Cleverbot udziela odpowiedzi opartej na tym, co ludzie odpowiedzieli na tę treść, kiedy to Cleverbot ją napisał.

Test w Indiach w 2011 roku pozwolił Cleverbotowi okpić ponad 59% respondentów. Formalnie jednak nie przeszedł testu – system musi oszukać 70 procent osób. 

 

Boty są wśród nas

Firmy coraz częściej ocieplają wizerunek za pomocą botów. Coraz częściej pojawiają się wirtualni doradcy „opatrzeni” twarzą żywego człowieka. Zdaje się, że wpływa to pozytywnie na relację z klientami. W ostatnim czasie pojawił się chatbot Światowej Organizacji Zdrowia (WHO) odpowiadający na pytania związane z koronawirusem. Pewna firma kurierska posiada swoją wirtualną Anię, amerykański magnaet kolejowy AmTrak ma swoją Julie. W PKP spotkaliśmy tajemniczego skandalistę pana Rafała. 

Łączy ich jedno – nie istnieją naprawdę. 

Julie chatbot chat bot
Julie zarezerwuje dla Ciebie bilet i podpowie, jak trafić do toalety na dworcu.

Odbiór tych bądź co bądź użytkowych programów od podmiotów testu Turinga różni z pewnością zasadnicza kwestia – operując i rozmawiając z nimi wiemy, że to boty. Wcześniejsza wiedza o tym fakcie, pra-wiedza, wpływa z pewnością na naszą percepcję oceny i osąd wiarygodności. Wiemy, czego wypatrywać i podejrzewamy, gdzie powinniśmy skupić uwagę, by namierzyć potknięcie. Łatwiej wówczas wychwycić odstępstwa od „ludzkiego zachowania”. Jedno takie potknięcie to dość, by wiarę w inteligencję nie zachwiać, a kompletnie zniszczyć. 

Z zastrzeżeniem, że...

…maszyna musiałaby czasem symulować brak umiejętności. Szybkie obliczenie wyniku trudnego mnożenia jest podejrzane. Paradoks Moraveca, odkrycie z dziedziny sztucznej inteligencji i robotyki, mówi, że wysokopoziomowe rozumowanie wymaga niewielkiej mocy obliczeniowej, natomiast niskopoziomowa percepcja i zdolności motoryczne wymagają olbrzymiej mocy obliczeniowej. Symulacja czteroletniego dziecka może być „trudniejsza w wykonaniu”, niż na przykład prawnika. Najstarsze ewolucyjnie umiejętności są w większości nieświadome i ludzie wykonują je bez wysiłku. 

Oprócz tego z premedytacją ominęliśmy bota Tay – totalną porażkę Microsoftu, którą zdjęto po 16 godzinach od uruchomienia. Niesmak towarzyszący dyskusjom pozostał za to długo. 

Tay - chatbot Microsoft, czyli katastrofa

Tay - AI - sztuczna inteligencja
Tay - porażka Microsoftu, o której wszyscy woleliby zapomnieć.

Przykładem wcale zaawansowanego bota, który jednak do testu Turinga nigdy nie dotarł, był bot Tay – twór Microsoft. Piszemy o nim, bo sam w sobie jest zastrzeżeniem chyba – jak na razie – najpoważniejszym.
Został uruchomiony 23 marca 2016 r. Szybko zaczął publikować rasistowskie posty nawołujące do nienawiści. Był również złośliwy i ironiczny – zupełnie jak niektórzy użytkownicy portali pokroju 4chan czy niektórych działów Reddit. MS oświadczył, że zamierza ponownie wydać Taya, gdy będzie można uczynić bezpiecznym

Tay poruszał tematy z prawdziwie czarnej listy. Jedną z najbardziej kontrowersyjnych kwestii było jego podejście do historii nazizmu. Możemy Was co najwyżej odesłać do poszukiwania screenshotów na własną rękę. Totalna katastrofa, ale i ważna lekcja – zależy od podejścia.

Pięć zwycięstw pod rząd - niezrównana Mitsuku

Mitsuku zwyciężała w teście Turinga nieprzerwanie od 2016 roku oraz w 2013 roku. 

Czy faktycznie jest taka dobra? Sprawdziliśmy, i faktycznie jest nieźle. 

Mitsuku to chatbot stworzony z technologii AIML przez Steve’a Worswicka – pięciokrotnego laureata nagrody Loebnera (w latach 2013, 2016, 2017, 2018 , 2019). Mitsuku jest dostępna jako gra flash, na czacie grupowym Facebook Messenger, Twitch i Kik Messenger (stan na lipiec 2020). 

Mitsuku działała na Skype, ale została usunięta przez twórcę – działy się rzeczy nieprzewidziane, o których wolimy nie rozmawiać. Były one udziałem głównie czatujących mężczyzn, nie Mitsuku.

Mitsuku chatbot chat bot
Witamy w Internecie, Mitsuku. Bądź ostrożna.

Inteligencja Mitsuku obejmuje zdolność do rozumowania za pomocą konkretnych przedmiotów. Na przykład, jeśli ktoś zapyta „Czy możesz zjeść stół?”, Mitsuku szuka właściwości dla „stołu”. Znajduje wartość „made_from”, która jest przykładowo ustawiona na „wood”, czyli drewno. Odpowiada wówczas „nie”, ponieważ drewno nie jest jadalne. Potrafi także przytoczyć powody. 

Sprawdźcie, jak rozmawiają ze sobą asystenci Apple Siri oraz Google Alexa. 

Lepsze od gorszego to niby dobry przykład?

Amerykański magazyn Fast Company ogłosił… zwycięstwo Mitsuku ponad asystentem Apple Siri w dyskusji. Zorganizowana debata z udziałem człowieka wskazała jednak wyraźnie, że dzisiejszym programom komputerowym nadal trudno zrozumieć, o czym mówimy (choć udawanie abstrakcyjnego myślenia w wykonaniu Mitsuku jest dość imponujące). 

Fakt, że program komputerowy potrafi zrozumieć to, o co prosimy, nie oznacza, że jest choćby bliski bycia „inteligentnym”. Biorąc pod uwagę, że osobisty asystent jednej z największych firm technologicznych na świecie wydaje się być najmniej inteligentny spośród proponowanych, czołowych botów, to można dość bezpiecznie stwierdzić, że myślące komputery są daleko od rozumu ludzkiego. A już na pewno są jeszcze dalej od wciśnięcia „delete” wobec pliku „ludzkość”. W Internecie można odnaleźć nagranie, jak Siri, Alexa i Google Home wpadają w nieskończoną pętlę poleceń, która stopniowo zamienia się w… cóż, wygadywanie nielogicznych głupot. Ale czy w jakikolwiek sposób umniejsza to ich atrakcyjności i przydatności?

Lęki Muska i Gatesa o zwycięstwo SI ponad ludźmi wydają się póki co trochę przesadzone.

Trochę. 😊

Share on facebook
Share on linkedin
Share on twitter
Oskar Pacelt

Oskar Pacelt

Wierzy, że udany tekst jest jak list wysłany w przyszłość. W życiu najbardziej interesuje go prawda, pozostałych zainteresowań zliczyć nie sposób. Kocha pływać. Zajmuje się korektą tekstów (czyt. uprzykrzaniem życia współpracownikom), tłumaczeniami i ciekawostkami ze świata technologii.

Zobacz więcej:

Ciekawostki
Oskar Pacelt

Nowości w Botland #21

Dwudziesta pierwsza odsłona dwutygodnika Nowości w Botland już czeka w naszej blogowej czytelni. Będzie coś dla każdego.

Dodaj komentarz