Umělá inteligence vytvořila tajnou komunikaci, jíž nerozumíme

Umělé inteligence od Google se naučili posílat šifrované zprávy. Nevíme přesně, jak je metoda funguje.

Je to projekt, který zkoumá možnosti umělých neuronových sítí. Nejnověji jim dali výzkumníci projektu Google Brain neobvyklou roli: pokuste se vytvořit bezpečnou komunikaci. A poraďte si prakticky sami a tak, jak jen dokážete.

Výsledkem byly zprávy, které se podle vědecké studie naučila umělá inteligence sama ukrýt před nechtěnými pohledy. Stvořila vlastní kryptografický algoritmus.

Alice, Bob a Eve

Inženýři začali s trojicí umělých neuronových sítí. Alice, Bob i Eve dostali různé úkoly: Alice se měla naučit posílat šifrované zprávy, Bob se je měl naučit číst a Evě se měla pokusit o špehování celé komunikace.

Podmínky dostali relativně jednoduché: pokud Bobovo dešifrování bude příliš daleko od původní zprávy, prohrál. Pokud bude Eve úspěšnější než by bylo náhodné hádání, prohrála Alice.

V Google následně inteligenci neřekli, jak šifrovat zprávy. Jen Alici a Bobovi dali společný klíč (Eve ho neznala) a celý experiment spustili.

Zpočátku se umělým neuronovým sítím příliš nedařilo. No jak se scénář opakoval, Alice a Bob se podle magazínu New Scientist začali zlepšovat. Alice si vytvořila vlastní strategii šifrování a Bob se naučil zprávu přečíst.

Po 15-tisících opakování dokázal Bob rozluštit zašifrovanou zprávu od Alice, přičemž Eve dokázala uhodnout jen zhruba polovinu bitů tvořících zprávu – což je stejně, jako by hádala zcela náhodně.

AI umí překvapit

Výzkumníci přiznávají, že ve skutečnosti ne zcela rozumí, jak samotné šifrování probíhá. Ve srovnání s nejlepšími lidskými metodami má být relativně primitivní.

Pochopit metodu zvolenou Alicí však nebylo cílem ani v možnostech experimentu. Tím bylo ukázat, do jaké míry jsou umělé inteligence užitečné při komunikaci a zda se vůbec dokážou naučit svou komunikaci chránit.

Ukazuje se, že odpověď je ano.

arxiv.org/pdf/1610.06918v1.pdf