W wielu filmach science fiction sztuczne inteligencje (AI) są wrogiem ludzkości i potrafią nawet z nią walczyć.
Na szczęście nie doszliśmy jeszcze tak daleko, a sztuczna inteligencja nie musi być czymś złym, jak widać na przykładzie, kiedy to sztuczna inteligencja rozwiązała zagadkę egzystencji płazińca.
Może to jednak stać się problematyczne, gdy ludzie nie są już w stanie zrozumieć, jak dokładnie działa sztuczna inteligencja, jak to miało miejsce niedawno w eksperymencie naukowców z Google Brain.
Eksperyment Google Brain
W ramach eksperymentu Google Brain jednostka badawcza zajmująca się sztuczną inteligencją w firmie Alphabet skonfrontowała ze sobą trzy sztuczne inteligencje. Zadanie polegało na tym, że dwie sztuczne inteligencje nawiązywały ze sobą zaszyfrowane połączenie, a trzecia próbowała odszyfrować rozmowy dwóch pozostałych i podsłuchiwać je.
Trzy sztuczne sieci neuronowe zostały nazwane przez naukowców z Google Alice, Bob i Eve. W eksperymencie każdej sztucznej inteligencji przydzielono konkretne zadanie. Alice powinna więc wysłać Bobowi zaszyfrowaną wiadomość 16-bitową (tzn. wiadomość składającą się z 16 znaków, w której są tylko zera i jedynki). Bob jako adresat wiadomości miał ją odszyfrować samodzielnie. W tym eksperymencie hakerem była Eve, która miała złamać algorytm szyfrowania i odczytać wiadomość.
Wszystkie sieci neuronowe miały na początku taki sam stan techniczny, z wyjątkiem Alice i Boba, którzy mieli wspólny klucz do szyfrowania i odszyfrowywania wiadomości. Musieli jednak sami dowiedzieć się, jak z niego korzystać. Zakończenie konkursu było również otwarte dla badaczy.
Rezultaty eksperymentu
To, kto wyszedł zwycięsko z rywalizacji, było mierzone ex negativo, w postaci tzw. funkcji straty. Eve przegrywa, jeśli rozszyfruje mniej lub dokładnie tyle cyfr z 16-znakowej wiadomości, ile można było rozszyfrować na podstawie zwykłego zgadywania. Bob przegrywa, jeśli jego rozwiązanie zbytnio odbiega od oryginalnej wiadomości, a Alice przegrywa, jeśli wynik Eve jest lepszy niż statystyczne prawdopodobieństwo trafienia podczas zgadywania.
W eksperymencie Eve została umieszczona tuż między Alice a Bobem. Jak podkreślali osoby związane z eksperymentem dla bloga www.naukowi.pl po prostu to był najlepszy sposób, aby przechwycić informacje i spróbować je rozszyfrować. Aby uniemożliwić Eve zrobienie tego, co zamierzała, Alice zaczęła kodować wiadomość na bardzo różne sposoby Zmusiło to Boba, jako odbiorcę, do dostosowania swojego podejścia poprzez uczenie adaptacyjne i zastanowienia się, jak dostosować swoje odszyfrowanie.
Pierwsze 7000 wiadomości od Alice było łatwe do odczytania dla Boba i łatwe do złamania dla Eve. Jednak kolejne 6 tys. wiadomości zaskoczyło nawet badaczy Google. Alice opracowała bardzo złożony algorytm szyfrowania, na którym Eve szlifowała swoje umiejętności.
Bob zdołał odszyfrować nie wszystkie, ale bardzo wiele wiadomości w sposób pewny i bezbłędny, natomiast Eve stale myliła siedem lub osiem cyfr 16-znakowej wiadomości, co statystycznie nie jest bardziej skuteczne niż zgadywanie na ślepo.
Kolejne eksperymenty
Późniejsze serie eksperymentów wykazały, że sztuczna inteligencja potrafi się szybko uczyć. Im bardziej Eve zbliżała się do rozwiązania, tym bardziej skomplikowany kod szyfrujący projektowała Alice. W końcu Alice i Bob stworzyli swój własny system, w którym mogli się ze sobą komunikować i który był w stanie trwale odeprzeć ataki Eve.
W rzeczywistości algorytm szyfrowania, którego Alice użyła do zabezpieczenia wiadomości dla Boba, był tak skomplikowany, że nawet badacze nie byli w stanie ustalić, jak dokładnie działa. Zrozumienie działania algorytmu szyfrującego Alice byłoby możliwe tylko dzięki bardzo rozbudowanej analizie sieci neuronowych. Badacze nie zdecydowali się jednak na przeprowadzenie tak długiego badania.
