Vorige week demonstreerde Google Duplex, een AI die bedoeld was om namens gebruikers te bellen. Afhankelijk van wie je het vraagt, is het verbluffend of dystopisch.
Hier is de presentatie, als je hem hebt gemist – de demo begint rond 1:12 als je de preambule wilt overslaan.
https://www.youtube.com/watch?v=bd1mEm2Fy08
Het eerste dat opvalt: dit ding is redelijk goed in denken. Dit is een opname, geen live demo, wat betekent dat de kans groot is dat dit het beste scenario is voor de techneut. Maar het is niet moeilijk je voor te stellen dat zoiets nuttig is, vooral als je een hekel hebt aan telefoneren. Lees meer op de Google Blog als je geïnteresseerd bent in hoe dit allemaal werkt, er zijn daar ook nog een paar demo’s.
Meer dan een paar mensen hebben gemerkt dat Duplex vulwoorden invoegt zoals “umm”, wat duidelijk bedoeld is om de machine menselijker te laten lijken. Is dat een handige functie, waardoor de interactie soepeler verloopt, of is het een opzettelijke misleiding?
Ik ben oprecht verontrust en verontrust over hoe moreel verkeerd het is dat de stem van de Google Assistent zich als een mens gedraagt en andere mensen bedriegt aan de andere kant van een telefoongesprek, met behulp van upspeek en andere eigenaardigheden van taal. “Hallo, heb je iets beschikbaar op 3 mei?” # io18
– Bridget Carey (@BridgetCarey) 8 mei 2018
Dit spul is echt heel eenvoudig, maar: elke interactie met technologie of de producten van technologiebedrijven moet plaatsvinden in een context van geïnformeerde toestemming. Zoiets als #GoogleDuplex slaagt niet voor deze test, _door ontwerp_. Dat is een onherstelbare fout.
– Anil Dash (@anildash) 9 mei 2018
Google legde later een verklaring af waarin stond dat Duplex zichzelf zou identificeren als een AI, wat aan een aantal van deze klachten voldoet. Maar er is iets verontrustends aan AI die zich voordoet als mens in vaag sociale situaties, en ik denk dat dit soort terugslag alleen maar luider zal worden naarmate de technologie verbetert.
