Alice en Bob leerden onder meer hoeden, boeken en ballen te verkopen. De voorwerpen hadden allemaal een verschillende waarde, waarover de spraakrobots ook moesten onderhandelen. Dat had moeten uitmonden in hightech onderhandelingssoftware die zo goed is dat mensen die ermee in gesprek zouden gaan, zelfs niet meer zouden merken dat ze eigenlijk met een robot bezig waren.

Zo ver komt het vooralsnog niet. Toen de robots de vrije hand kregen om de algoritmes van hun gesprekken beter en efficiënter te maken, begonnen de robots vreemde codewoorden en herhalingen te gebruiken. Zo begon Bob plots ,,Ik kan ik ik alle andere dingen.." te zeggen. Waarop Alice antwoordde: ,,Ballen hebben nul voor mij voor mij voor mij voor mij voor mij voor mij voor mij voor mij.”

Het gesprek tussen de machines ging daarop nog even door. En er is meer: de onderzoekers van het Facebook Artificial Intelligence Research lab (FAIR) ontdekten dat de robots 'slimmer' werden in het onderhandelen en bijvoorbeeld deden alsof ze een item leuk vonden om het verderop in de onderhandeling zogezegd 'op te offeren' om een (vals) compromis te maken.

Toen de onderzoekers doorkregen wat er aan de hand was, legden ze het experiment stil. ,,Dit is een belangrijke mijlpaal. Maar iedereen die ontkent dat dit potentieel gevaarlijk is, steekt zijn kop in het zand", stelt professor Kevin Warwick, een expert in robotica in het Verenigd Koninkrijk in Britse media. ,,We hebben geen flauw idee wat deze robots tegen elkaar zeggen. Als je eenmaal robots hebt die ook fysiek dingen kunnen doen, in het bijzonder voor militaire doeleinden, kan zoiets dodelijk zijn."

Volgens Warwick is dit het eerste gedocumenteerde geval, maar hij is ervan overtuigd dat er meer zijn. ,,Robots kunnen communiceren met elkaar en hoewel we denken dat we hen in de gaten kunnen houden, is er geen enkele manier om dat zeker te weten. Ook de Brits natuurkundige Stephen Hawking en Canadees-Amerikaans ingenieur Elon Musk waarschuwden al voor de gevaren van artificiële intelligentie."

Het 'mislukte' experiment doet denken aan de filmreeks Terminator met acteur Arnold Schwarzenegger, waarin robots een zelfbewustzijn ontwikkelen en de mensheid proberen uit te roeien. Zo ver is het nog niet, maar héél gek klinkt het niet meer. ,,Het gebeurt eigenlijk al overal", aldus technologie-experte Kate Adamson. ,,Kijk bijvoorbeeld naar de hoge frequentiehandel op de aandelenmarkt. Sommige algoritmes doen precies hetzelfde. Ze hebben een bepaalde kennis ontwikkeld en worden niet elke minuut gemonitord."