Robots Alice en Bob beginnen geheimtaal: experiment stilgelegd
Facebook heeft een experiment met kunstmatige intelligentie stilgelegd nadat spraakrobots een eigen taal ontwikkelden, die alleen zij begrijpen. Robots Alice en Bob pasten het Engels aan om makkelijker te kunnen communiceren met elkaar. Dat resulteerde in vreemde zinnen, die voor de onderzoekers geen enkele betekenis meer hadden. Experts noemen het spannend, en tegelijkertijd angstaanjagend.
Delen per e-mail
Alice en Bob leerden onder meer hoeden, boeken en ballen te verkopen. De voorwerpen hadden allemaal een verschillende waarde, waarover de spraakrobots ook moesten onderhandelen. Dat had moeten uitmonden in hightech onderhandelingssoftware die zo goed is dat mensen die ermee in gesprek zouden gaan, zelfs niet meer zouden merken dat ze eigenlijk met een robot bezig waren.
Zo ver komt het vooralsnog niet. Toen de robots de vrije hand kregen om de algoritmes van hun gesprekken beter en efficiënter te maken, begonnen de robots vreemde codewoorden en herhalingen te gebruiken. Zo begon Bob plots ,,Ik kan ik ik alle andere dingen.." te zeggen. Waarop Alice antwoordde: ,,Ballen hebben nul voor mij voor mij voor mij voor mij voor mij voor mij voor mij voor mij.”
Het gesprek tussen de machines ging daarop nog even door. En er is meer: de onderzoekers van het Facebook Artificial Intelligence Research lab (FAIR) ontdekten dat de robots 'slimmer' werden in het onderhandelen en bijvoorbeeld deden alsof ze een item leuk vonden om het verderop in de onderhandeling zogezegd 'op te offeren' om een (vals) compromis te maken.
Potentieel gevaarlijk
Als je eenmaal robots hebt die ook fysiek dingen kunnen doen, in het bijzonder voor militaire doeleinden, kan zoiets dodelijk zijn
Toen de onderzoekers doorkregen wat er aan de hand was, legden ze het experiment stil. ,,Dit is een belangrijke mijlpaal. Maar iedereen die ontkent dat dit potentieel gevaarlijk is, steekt zijn kop in het zand", stelt professor Kevin Warwick, een expert in robotica in het Verenigd Koninkrijk in Britse media. ,,We hebben geen flauw idee wat deze robots tegen elkaar zeggen. Als je eenmaal robots hebt die ook fysiek dingen kunnen doen, in het bijzonder voor militaire doeleinden, kan zoiets dodelijk zijn."
Volgens Warwick is dit het eerste gedocumenteerde geval, maar hij is ervan overtuigd dat er meer zijn. ,,Robots kunnen communiceren met elkaar en hoewel we denken dat we hen in de gaten kunnen houden, is er geen enkele manier om dat zeker te weten. Ook de Brits natuurkundige Stephen Hawking en Canadees-Amerikaans ingenieur Elon Musk waarschuwden al voor de gevaren van artificiële intelligentie."
Het 'mislukte' experiment doet denken aan de filmreeks Terminator met acteur Arnold Schwarzenegger, waarin robots een zelfbewustzijn ontwikkelen en de mensheid proberen uit te roeien. Zo ver is het nog niet, maar héél gek klinkt het niet meer. ,,Het gebeurt eigenlijk al overal", aldus technologie-experte Kate Adamson. ,,Kijk bijvoorbeeld naar de hoge frequentiehandel op de aandelenmarkt. Sommige algoritmes doen precies hetzelfde. Ze hebben een bepaalde kennis ontwikkeld en worden niet elke minuut gemonitord."
Google Translate
Volgens Facebook zelf werd het experiment stilgelegd omdat het ‘niet tot het resultaat leidde dat we wilden’. ,,De onderhandelingssoftware is bedoeld voor communicatie met mensen, niet voor communicatie tussen robots onderling. Daarom had het geen zin om ermee door te gaan."
Het sociale netwerk wijst er ook op dat er in andere techbedrijven soortgelijke dingen gebeuren. Zo ontdekten wetenschappers van Google Translate vorig jaar dat hun dienst ook een eigen taal had ontwikkeld.
Gratis onbeperkt toegang tot Showbytes? Dat kan!
Log in of maak een account aan en mis niks meer van de sterren.Lees Meer
-
PREMIUMVIDEO
Mensen besmet met de Britse variant blijken veel meer virusdeeltjes in hun keel te hebben
Engeland zit tot zeker half februari in lockdown vanwege de razendsnelle verspreiding van de nieuwe coronavirusvariant. Wat maakt het gemuteerde virus zoveel besmettelijker? -
PREMIUMWat zegt de wetenschap
Leugentje om bestwil is ons met de paplepel ingegoten
Geheimen hebben we allemaal. Dat we niet alles delen met een ander en niet altijd eerlijk zijn, is niet zo vreemd. -
Hierom hebben wombats kubusachtige keutels
Het hoe en waarom van de opmerkelijke ‘blokjespoep’ van wombats was lang een onopgeloste biologische puzzel. Nu hebben wetenschappers ontdekt waar die kubusachtige ontlasting van de buideldieren vandaan komt. -
Nieuw initiatief gaat nepnieuws bestrijden met actuele feitenchecks
Nederlanders kunnen vanaf donderdag op één plek terecht voor actuele feitenchecks op het nieuws, bijvoorbeeld op het gebied van corona. De nieuwe The Fact Club is een initiatief van Vereniging De Publieke Zaak en de Universiteit Leiden. -
PREMIUM
Hoogleraar virologie: ‘Bewijs voor invoering avondklok is niet overtuigend’
Met de geplande invoering van een avondklok zet Nederland zich schrap voor de opkomst van de Britse variant van het coronavirus. Toch is niet elke expert ervan overtuigd dat er een grote donkere wolk op ons afkomt. Zoals Ron Fouchier, hoogleraar moleculaire virologie aan het Erasmus MC in Rotterdam. ,,Dat een variant de overhand krijgt, wil niet zeggen dat ze ook besmettelijker is.”
-
PREMIUMWetenschap
Waarom astronauten wijn meenemen als ze de ruimte ingaan
Wijn in de ruimte? Jazeker. In de laatste lading uit het International Space Station zaten twaalf flessen bordeaux en het was niet de eerste wijn die een reis in het heelal maakte. Voor wetenschappelijk onderzoek welteverstaan. -
‘Onze dochter was de redding voor de postnatale depressie van mijn vrouw’
Blijdschap, dankbaarheid trots: een nieuwe baby staat meestal synoniem aan een blije ervaring. Maar wat als jouw partner dat anders ervaart? Angst en somberheid horen ook bij het moederschap, maar daar praten we liever niet over. -
Superbespaarders
Emma (25) redt het met 78 euro aan boodschappen per maand: ‘Ik eet graag linzensoep’
Sommige mensen kunnen enorm goed met geld omgaan. Of ze nu veel of weinig hebben, ze zijn creatief en mét resultaat. Hoe doen ze dat toch? Elke week laten we hier een superbespaarder aan het woord. Deze keer: Emma Mouthaan (25) studeert nog en belegt wat ze overhoudt om vroeg met pensioen te kunnen.
