Robots Alice en Bob beginnen geheimtaal: experiment stilgelegd
Facebook heeft een experiment met kunstmatige intelligentie stilgelegd nadat spraakrobots een eigen taal ontwikkelden, die alleen zij begrijpen. Robots Alice en Bob pasten het Engels aan om makkelijker te kunnen communiceren met elkaar. Dat resulteerde in vreemde zinnen, die voor de onderzoekers geen enkele betekenis meer hadden. Experts noemen het spannend, en tegelijkertijd angstaanjagend.
Delen per e-mail
Alice en Bob leerden onder meer hoeden, boeken en ballen te verkopen. De voorwerpen hadden allemaal een verschillende waarde, waarover de spraakrobots ook moesten onderhandelen. Dat had moeten uitmonden in hightech onderhandelingssoftware die zo goed is dat mensen die ermee in gesprek zouden gaan, zelfs niet meer zouden merken dat ze eigenlijk met een robot bezig waren.
Zo ver komt het vooralsnog niet. Toen de robots de vrije hand kregen om de algoritmes van hun gesprekken beter en efficiënter te maken, begonnen de robots vreemde codewoorden en herhalingen te gebruiken. Zo begon Bob plots ,,Ik kan ik ik alle andere dingen.." te zeggen. Waarop Alice antwoordde: ,,Ballen hebben nul voor mij voor mij voor mij voor mij voor mij voor mij voor mij voor mij.”
Het gesprek tussen de machines ging daarop nog even door. En er is meer: de onderzoekers van het Facebook Artificial Intelligence Research lab (FAIR) ontdekten dat de robots 'slimmer' werden in het onderhandelen en bijvoorbeeld deden alsof ze een item leuk vonden om het verderop in de onderhandeling zogezegd 'op te offeren' om een (vals) compromis te maken.
Potentieel gevaarlijk
Als je eenmaal robots hebt die ook fysiek dingen kunnen doen, in het bijzonder voor militaire doeleinden, kan zoiets dodelijk zijn
Toen de onderzoekers doorkregen wat er aan de hand was, legden ze het experiment stil. ,,Dit is een belangrijke mijlpaal. Maar iedereen die ontkent dat dit potentieel gevaarlijk is, steekt zijn kop in het zand", stelt professor Kevin Warwick, een expert in robotica in het Verenigd Koninkrijk in Britse media. ,,We hebben geen flauw idee wat deze robots tegen elkaar zeggen. Als je eenmaal robots hebt die ook fysiek dingen kunnen doen, in het bijzonder voor militaire doeleinden, kan zoiets dodelijk zijn."
Volgens Warwick is dit het eerste gedocumenteerde geval, maar hij is ervan overtuigd dat er meer zijn. ,,Robots kunnen communiceren met elkaar en hoewel we denken dat we hen in de gaten kunnen houden, is er geen enkele manier om dat zeker te weten. Ook de Brits natuurkundige Stephen Hawking en Canadees-Amerikaans ingenieur Elon Musk waarschuwden al voor de gevaren van artificiële intelligentie."
Het 'mislukte' experiment doet denken aan de filmreeks Terminator met acteur Arnold Schwarzenegger, waarin robots een zelfbewustzijn ontwikkelen en de mensheid proberen uit te roeien. Zo ver is het nog niet, maar héél gek klinkt het niet meer. ,,Het gebeurt eigenlijk al overal", aldus technologie-experte Kate Adamson. ,,Kijk bijvoorbeeld naar de hoge frequentiehandel op de aandelenmarkt. Sommige algoritmes doen precies hetzelfde. Ze hebben een bepaalde kennis ontwikkeld en worden niet elke minuut gemonitord."
Google Translate
Volgens Facebook zelf werd het experiment stilgelegd omdat het ‘niet tot het resultaat leidde dat we wilden’. ,,De onderhandelingssoftware is bedoeld voor communicatie met mensen, niet voor communicatie tussen robots onderling. Daarom had het geen zin om ermee door te gaan."
Het sociale netwerk wijst er ook op dat er in andere techbedrijven soortgelijke dingen gebeuren. Zo ontdekten wetenschappers van Google Translate vorig jaar dat hun dienst ook een eigen taal had ontwikkeld.
Gratis onbeperkt toegang tot Showbytes? Dat kan!
Log in of maak een account aan en mis niks meer van de sterren.
Verder in het nieuws
-
PREMIUM
Migraine? Leer je triggers kennen! Zeven prikkels die je kunnen vloeren
Voor duizenden Nederlanders is de zomer lang niet zorgeloos, omdat ze hoofdpijn of migraine krijgen als ze te lang in de zon zitten. Bestaat er zoiets als ‘zomerhoofdpijn’ en kun je het voorkomen? ,,Het weer is maar een van de mogelijke triggers’’, zegt neuroloog Jan Versijpt. -
Video Astronauten van eerste commerciële ruimtevlucht veilig geland in Golf van Mexico
Ruimtevaarders Bob Behnken en Douglas ‘Doug’ Hurley, de eerste astronauten die in een baan rond de aarde konden reizen aan boord van een commercieel ruimtevaartuig, zijn in hun ruimtecapsule veilig geland op zee. De mannen verbleven twee maanden in het Internationaal Ruimtestation ISS, nadat ze met hun SpaceX Crew Dragon capsule werden gelanceerd vanaf Cape Canaveral in Florida. -
PREMIUM
Zomeruniversiteit Psychisch leed achter psoriasis: ‘Moeilijk te accepteren dat huidprobleem chronisch kan zijn’
De knapste koppen vertellen deze zomer over ontwikkelingen in hun vakgebied. Vandaag: Tom Hillary over de soms verwoestende impact van huidziektes op iemands leven. De dermatoloog is gespecialiseerd in psoriasis, een chronische, schilferende aandoening. Hij kan inmiddels mensen heel goed helpen, maar de frustratie blijft. ,,Het is moeilijk te accepteren dat een huidprobleem chronisch kan zijn.” -
PREMIUM
INTERVIEW Ambassadeur VS: ‘Ik zou uitkijken met de gedachte dat we God moeten danken voor de Chinezen’
De Amerikaanse ambassadeur Pete Hoekstra denkt dat China westerse kennis steelt om een coronavaccin te ontwikkelen. Toch zou hij zich met een Chinees vaccin laten injecteren, als er geen alternatief was. ,,Zeker. De Chinezen hebben ons in deze problemen gebracht, dus als ze een oplossing hebben...” -
PREMIUM
Complotdenken over 5G en de pandemie: hoe een Twitterstorm zendmasten kan vellen
‘5G veroorzaakt corona’. Of: ‘het coronavirus is bedacht om de symptomen van 5G-straling te verbloemen.’ Je hoeft niet diep te graven om dit soort uitingen tegen te komen. Op Twitter worden complottheorieën over een link tussen 5G en het coronavirus verspreid. Niet door nepaccounts, maar door gewone mensen. Wie zijn dat, en wat zijn hun beweegredenen?
-
PREMIUM
Deskundigen over de dood Hoe ontbindt een lichaam? Deze anatoom begroef mensen inclusief thermometer en camera
Annemarie Haverkamp praatte op deze site bijna twee jaar lang wekelijks met iemand over de laatste levensfase (‘Ik heb geleefd’). Ze bleef zitten met een aantal prangende vragen. In een korte vervolgserie spreekt ze deskundigen over de dood. Vandaag anatoom Roelof-Jan Oostra over: wat gebeurt er in je lichaam als je doodgaat? -
PREMIUM
ZOMERUNIVERSITEIT ‘Dat Irma Sluis zo’n gespreksonderwerp werd, illustreert hoe ver we achterlopen’
De knapste koppen van Nederland vertellen deze zomer over ontwikkelingen in hun vakgebied. Vandaag: Hoogleraar gebarentaal Onno Crasborn ziet het als zijn missie om wat te doen aan de sociale eenzaamheid van de 1,7 miljoen doven en slechthorenden. Velen hebben er later baat bij. -
Arabische Marssonde stuurt eerste foto van ruimtereisdoel
De Marssonde van de Verenigde Arabische Emiraten heeft tijdens zijn reis naar Mars de eerste foto van de rode planeet naar de aarde gezonden. De voornaamste leider van de Emiraten en emir van Dubai, sjeik Mohammed bin Rashid al-Maktoum, twitterde de foto vandaag.
