Robots Alice en Bob beginnen geheimtaal: experiment stilgelegd
Facebook heeft een experiment met kunstmatige intelligentie stilgelegd nadat spraakrobots een eigen taal ontwikkelden, die alleen zij begrijpen. Robots Alice en Bob pasten het Engels aan om makkelijker te kunnen communiceren met elkaar. Dat resulteerde in vreemde zinnen, die voor de onderzoekers geen enkele betekenis meer hadden. Experts noemen het spannend, en tegelijkertijd angstaanjagend.
Alice en Bob leerden onder meer hoeden, boeken en ballen te verkopen. De voorwerpen hadden allemaal een verschillende waarde, waarover de spraakrobots ook moesten onderhandelen. Dat had moeten uitmonden in hightech onderhandelingssoftware die zo goed is dat mensen die ermee in gesprek zouden gaan, zelfs niet meer zouden merken dat ze eigenlijk met een robot bezig waren.
Zo ver komt het vooralsnog niet. Toen de robots de vrije hand kregen om de algoritmes van hun gesprekken beter en efficiënter te maken, begonnen de robots vreemde codewoorden en herhalingen te gebruiken. Zo begon Bob plots ,,Ik kan ik ik alle andere dingen.." te zeggen. Waarop Alice antwoordde: ,,Ballen hebben nul voor mij voor mij voor mij voor mij voor mij voor mij voor mij voor mij.”
Het gesprek tussen de machines ging daarop nog even door. En er is meer: de onderzoekers van het Facebook Artificial Intelligence Research lab (FAIR) ontdekten dat de robots 'slimmer' werden in het onderhandelen en bijvoorbeeld deden alsof ze een item leuk vonden om het verderop in de onderhandeling zogezegd 'op te offeren' om een (vals) compromis te maken.
Potentieel gevaarlijk
Als je eenmaal robots hebt die ook fysiek dingen kunnen doen, in het bijzonder voor militaire doeleinden, kan zoiets dodelijk zijn
Toen de onderzoekers doorkregen wat er aan de hand was, legden ze het experiment stil. ,,Dit is een belangrijke mijlpaal. Maar iedereen die ontkent dat dit potentieel gevaarlijk is, steekt zijn kop in het zand", stelt professor Kevin Warwick, een expert in robotica in het Verenigd Koninkrijk in Britse media. ,,We hebben geen flauw idee wat deze robots tegen elkaar zeggen. Als je eenmaal robots hebt die ook fysiek dingen kunnen doen, in het bijzonder voor militaire doeleinden, kan zoiets dodelijk zijn."
Volgens Warwick is dit het eerste gedocumenteerde geval, maar hij is ervan overtuigd dat er meer zijn. ,,Robots kunnen communiceren met elkaar en hoewel we denken dat we hen in de gaten kunnen houden, is er geen enkele manier om dat zeker te weten. Ook de Brits natuurkundige Stephen Hawking en Canadees-Amerikaans ingenieur Elon Musk waarschuwden al voor de gevaren van artificiële intelligentie."
Het 'mislukte' experiment doet denken aan de filmreeks Terminator met acteur Arnold Schwarzenegger, waarin robots een zelfbewustzijn ontwikkelen en de mensheid proberen uit te roeien. Zo ver is het nog niet, maar héél gek klinkt het niet meer. ,,Het gebeurt eigenlijk al overal", aldus technologie-experte Kate Adamson. ,,Kijk bijvoorbeeld naar de hoge frequentiehandel op de aandelenmarkt. Sommige algoritmes doen precies hetzelfde. Ze hebben een bepaalde kennis ontwikkeld en worden niet elke minuut gemonitord."
Google Translate
Volgens Facebook zelf werd het experiment stilgelegd omdat het ‘niet tot het resultaat leidde dat we wilden’. ,,De onderhandelingssoftware is bedoeld voor communicatie met mensen, niet voor communicatie tussen robots onderling. Daarom had het geen zin om ermee door te gaan."
Het sociale netwerk wijst er ook op dat er in andere techbedrijven soortgelijke dingen gebeuren. Zo ontdekten wetenschappers van Google Translate vorig jaar dat hun dienst ook een eigen taal had ontwikkeld.
Gratis onbeperkt toegang tot Showbytes? Dat kan!
Log in of maak een account aan en mis niks meer van de sterren.Lees Meer
-
PREMIUMWat zegt de wetenschap
Wonen we straks allemaal in houten huizen? ‘Hout is er genoeg’
Zonnepanelen, minder met het vliegtuig reizen of vegetarisch eten. Het zijn allemaal manieren om een steentje bij te dragen aan het klimaat. Ook in de bouw kunnen we verduurzamen, namelijk door te bouwen met hout, zeggen wetenschappers. -
Het is écht onderzocht: lopen volgens Monthy Pythons 'silly walk' staat gelijk aan flink sporten
Wie loopt zoals de Britse acteur John Cleese in de fameuze Monty Python-sketch Ministry of Silly Walks verbruikt tweeënhalf keer zoveel energie als iemand die normaal loopt. Je voortbewegen als een dwaas is daarom een uitstekende manier van lichaamsbeweging, zo schrijven Amerikaanse onderzoekers in het kerstnummer van het prestigieuze British Medical Journal. Als de silly walk in de jaren 70 algemeen was omarmd, zouden we nu een stuk gezonder zijn, stellen ze. -
PREMIUMOnderzoek
Ontkurken is gevaarlijk, zegt de wetenschap: ‘Gas duwt kurk eruit met 2400 kilometer per uur’
In tal van huizen wordt tijdens de jaarwisseling een fles champagne opengetrokken. Maar pas op! Wetenschappers hebben voor het eerst uitgezocht hoe gevaarlijk dat is. -
PREMIUM
Webb-telescoop geeft spectaculaire nieuwe kijk op het heelal: ‘Ongekend hoge kwaliteit’
De nieuwe ruimtetelescoop James Webb overtreft alle verwachtingen. De oogst aan beelden en data brengt astronomen in vervoering. De Leidse astrofysicus Ewine van Dishoeck duidt de opbrengst. -
interview
Paniek om een dringend mailtje van de baas: waarom ons brein soms worstelt met werk
Kenniswerk is zwaar voor onze mentale gezondheid, ziet Christianne Vink, psycholoog en auteur van Het grote hoe ik werk boek. Ze ontmoet in haar praktijk werkenden die worstelen met vermoeidheid en stress, en zich tegelijkertijd moeilijk kunnen concentreren. Wat kun je daaraan doen?
-
Dit zijn de goedkoopste auto's voor private lease
Met private lease kun je voor een vast bedrag in een gloednieuwe auto rijden. Nagenoeg alles is inbegrepen: of het nu wegenbelasting, de verzekering, onderhoud of pechhulp is, je hoeft er niet over na te denken. Dit zijn de goedkoopste modellen. -
-
-
9
Olieconcern ExxonMobil weet sinds jaren 70 al dat de olie-industrie voor klimaatopwarming zorgt
Olieconcern ExxonMobil voorspelde de opwarming van de aarde door fossiele brandstoffen al in de jaren 70, in detail. Hun eigen wetenschappers kwamen tot dit inzicht na uitgebreid onderzoek. Desondanks trok het bedrijf - net zoals veel andere bedrijven in de fossiele industrie - decennialang klimaatverandering in twijfel, evenals de betrouwbaarheid van klimaatmodellen. -
PREMIUM20
Meer uren per dag werken in minder dagen, kan het?
Meer tijd voor ons sociale leven, minder files en minder drukte bij de kinderopvang. Om de problemen op de arbeidsmarkt aan te pakken, komt internist en hoogleraar Marcel Levi met een opmerkelijk voorstel: ga hetzelfde aantal uren werken in minder dagen.
