Google’s AI-afdeling, de onderzoekers testten in twee games de waarschijnlijkheid van samenwerking tussen twee AI-agenten waarin ze onverwachte resultaten vonden. De resultaten laten zien dat AI heeft geleerd om “zeer agressief” te worden in stressvolle situaties.
laten zien
De nieuwe AI van Google wordt ‘zeer agressief’ om te krijgen wat het wil
Wie de hachelijke situatie van de gevangene heeft bestudeerd, weet het al: bij de keuze om samen te werken of de kleine medebroeder te plagen, kan het eindresultaat erg egoïstisch zijn als het voordeel zelf beter is dan het collectief. Dit probleem doordringt ook kunstmatige intelligentie, die in een dystopische toekomst kan eindigen met de mensheid. In tests heeft de techgigant Google ons niet erg goed nieuws gebracht.
In een artikel gepubliceerd door onderzoekers van DeepMind, Google’s AI-divisie, testten de onderzoekers in twee games de kansen op samenwerking tussen twee AI-agenten. De resultaten laten zien dat totdat de situatie onder controle is, een agent liever meewerkt. Dan heeft de nederlaag van de vijand de voorkeur als de samenwerking geen grotere voordelen heeft.
In het eerste spel, Gathering genaamd, staan de twee spelers tegenover elkaar om zoveel mogelijk appels te verzamelen. Toen het aantal vruchten afnam, werden de agenten agressief en begonnen ze elkaar aan te vallen met laserstralen, waardoor de andere speler een paar seconden verlamd raakte.
Theoretisch zouden ze, als ze allebei zouden samenwerken, eindigen met dezelfde hoeveelheid appels – tactieken die de minder ontwikkelde algoritmen van DeepMind hebben gebruikt. Maar met de onzekere uitkomst gaven de ‘meer ontwikkelde’ agenten er de voorkeur aan om aan te vallen om het beste resultaat te garanderen. De onderstaande video toont het versnelde spel. De blauwe en rode blokken zijn de spelers en de groene vierkanten zijn de appels.
Om het bekendgemaakte resultaat te bereiken, werden meer dan 40 miljoen games gespeeld. De onderzoekers realiseerden zich dat hoe meer de agent van de games leerde, des te agressievere tactieken ze gebruikten om de overwinning te behalen, te leren van de fouten en de juiste antwoorden binnen hun eigen omgeving.
In een ander spel, Wolfpack genaamd, waren de resultaten minder eng. Hierin moesten twee wolven zich verenigen om een prooi te vangen. In plaats van te rennen om te zien wie er als eerste arriveerde, werkten ze allebei samen om de prooi in het nauw te drijven. Dat komt omdat samenwerking in dit scenario werd beloond met meer punten: welke wolf de prooi ook nam, als de andere ook dichtbij was, zou hij op dezelfde manier punten ontvangen.
Dus laten we de test in de onderstaande video bekijken: –
Het is interessant en eng! Om te zien hoe AI in deze tests onderscheid kan maken tussen situaties waarin agressie en egoïsme meer voordelen opleveren, terwijl in andere scenario’s samenwerking de voorkeur heeft. In de DeepMind-blog, legt de auteur van het experiment uit dat het dient om complexe systemen van verschillende deelnemers, zoals de economie, het verkeer en het milieu, beter te begrijpen, “allemaal afhankelijk van onze voortdurende samenwerking.”