Met de nieuwe uitvinding van Amazon kun je met de doden ‘spreken’, maar zou dat ook moeten?

Op dag 2 van de kunstmatige-intelligentieconferentie van 2022, ingeklemd tussen de onthulling van een door Alexa aangedreven huisrobot genaamd Astro en een presentatie van de directeur van het MIT Space Exploration Initiative, onthulde Amazon iets vreemds.

“Kan oma mij uitlezen? De tovenaar van Oz?” vraagt ​​een jonge jongen terwijl de tech-demo begint te spelen. ‘Oké,’ antwoordt Alex met haar typisch vrolijke, kunstmatige stem. Dan, een seconde later, komt er een andere stem uit de machine, deze klinkt veel menselijker. Maar dat is het niet. Het is een door AI gegenereerde replicatie van de dode oma van het kind.

Tijdens een toespraak op het podium legde Amazon senior vice-president en hoofdwetenschapper voor Alexa Rohit Prasad uit dat de stem werd gegenereerd met behulp van “minder dan een minuut opname” van de werkelijke stem van de grootmoeder. De betrokkenheid is duidelijk.

“Deze eigenschappen zijn belangrijker geworden in deze tijden van de aanhoudende pandemie, waarin zovelen van ons iemand hebben verloren van wie we houden”, zei Prasad. “Hoewel AI die pijn van verlies niet kan wegnemen, kan het zeker hun herinneringen blijvend maken.”

Voorlopig is dit slechts een technische demo. Er is verder weinig bekend over het project, behalve dat de technici van Alexa het voor elkaar hebben gekregen door dit te behandelen als een “stemconversietaak en niet een taak voor het genereren van spraak”. Amazon weigerde commentaar te geven op vragen over hoe de functie werkt, wanneer deze wordt uitgerold of wie er toegang toe heeft.

“We leven ongetwijfeld in het gouden tijdperk van AI, waar onze dromen en sciencefiction werkelijkheid worden”, zei Prasad op de conferentie. Maar zal die technologie ons leven daadwerkelijk verbeteren, of leidt het tot nieuwe nachtmerries?

“Wat kan er fout gaan?”

Zal je Amazon Echo uiteindelijk de stem van je overleden familieleden kunnen repliceren?The Washington Post/The Washington Post/Getty Images

Maura Grossman, een onderzoeksprofessor aan de School of Computer Science aan de Universiteit van Waterloo en een expert in de ethiek van AI, ziet zowel het goede als het slechte potentieel.

“Je kunt het risico zien van diepe vervalsingen, iemand die je stem oppikt, en ineens vertel je me om geld van je rekening of wat dan ook over te maken”, vertelt ze. Achteruit. “Dus ik denk dat je je moet afvragen: ‘Wat kan hier goed mee gaan en, en de belangrijkste vraag, wat kan er mis gaan met deze technologie?’.”

Toch is er ook een mogelijkheid voor goed. Grossman heeft een dierbare vriend wiens man is overleden en die naar een medium gaat om met hem in contact te komen. Hoewel Grossman aanvankelijk bang was en bang was dat haar vriendin zou worden bedrogen of een psychologisch trauma zou oplopen, hielp het medium haar uiteindelijk om het verlies te verwerken.

“Was het zo erg om om de week een medium te bezoeken en met haar overleden echtgenoot te praten?” vraagt ​​Grossman. “Aan de ene kant is het een vertekening van de werkelijkheid. Aan de andere kant heeft het haar wel geholpen hier doorheen te komen.”

Niet iedereen kan het zich veroorloven om een ​​paranormaal begaafde te bezoeken (of in de eerste plaats in het concept te geloven), maar een AI die in staat is om een ​​overleden geliefde perfect te imiteren, zou een vergelijkbare ervaring kunnen bieden aan iedereen die worstelt met het verlies van een geliefde.

“Aan de ene kant is het een vertekening van de werkelijkheid. Aan de andere kant heeft het haar wel geholpen hier doorheen te komen.”

Angela Sheldon, een tweeënzestigjarige uit Noord-Virginia, zou Alexa graag gebruiken om een ​​praatje te maken met haar overleden moeder – met wie ze nu toch al elke dag probeert te praten. “Zoals het nu is, krijg ik geen antwoord”, vertelt Sheldon Achteruit. “Dus zelfs als ik alleen maar ‘Ja, ik begrijp het’ zou horen… zou ik waarschijnlijk blij zijn.”

Maar opwinding is niet zo wijdverbreid over de hele linie. Voor velen voelt deze uitvinding als iets uit de dystopische sci-fi-bloemlezing van Netflix zwarte spiegel. In de aflevering van seizoen 2, “Be Right Back”, betaalt een vrouw, gespeeld door Hayley Atwell, een bedrijf om een ​​AI-replica te maken van haar dode vriend (levensecht lichaam en zo). In eerste instantie lijkt hij een perfecte kopie, maar ze raakt steeds meer gefrustreerd door de kleine verschillen en eindigt hem uiteindelijk op zolder.

“Ja, het is verontrustend”

Amazon-CEO Jeff BezosSAUL LOEB/AFP/Getty Images

Sinds de uitvinding van computers heeft digitale onsterfelijkheid mensen geïntrigeerd, en naarmate AI geavanceerder wordt, lijkt het concept plotseling binnen ons bereik. Grossman wijst me op het verhaal van een man die het verhaal van zijn stervende vader opnam om hem opnieuw te creëren met behulp van AI door een ‘Dadbot’ te maken.

Evenzo gebruikte Eugenia Kuyda, journalist die tech-ondernemer werd, een neuraal netwerk van Google om Luka te ontwikkelen, een bot die afbeeldingen, teksten en audio ophaalde van een vriend die op tragische wijze was omgekomen bij een auto-ongeluk om een ​​versie van hem te recreëren. waarmee ze kon treuren. Dit persoonlijke project veranderde in een app genaamd Replika, waarin iedereen persoonlijke informatie kan invoeren om iemand opnieuw te creëren als een ‘virtuele AI-vriend’. Als verjaardagscadeau kreeg Kanye West Kim Kardashian bezoek van haar overleden vader via een sprekend hologram.

“Een mens stopt niet groeiend. De bot zal voor altijd statisch zijn.”

In 2020 kreeg Microsoft een patent om een ​​soortgelijk systeem te maken met behulp van afbeeldingen, spraakgegevens, posts op sociale media, elektronische berichten en geschreven brieven om een ​​chatbot te maken die kan handelen in de stem van iemand, en repliceert hoe ze zich zouden gedragen. Het octrooi luidt: De specifieke persoon kan overeenkomen met een vroegere of huidige entiteit (of een versie daarvan), zoals een vriend, een familielid, een kennis, een beroemdheid, een fictief personage, een historische figuur, een willekeurige entiteit enz. Het vermeldt ook het gebruik van 2D- of 3D-modellen om deze bots tot leven te laten komen.

Het lijkt er echter op dat Microsoft eigenlijk geen plannen heeft om door te gaan met dit project. Nadat het patent in 2021 in het nieuws kwam, zei Tim O’Brien, ethische AI ​​Advocacy bij Microsoft, gepost op Twitter dat het in 2017 is ingediend, wat betekent dat het “dateert van vóór de AI-ethische beoordelingen die we vandaag doen.” Hij voegde eraan toe: “en ja, het is verontrustend.”

Angeliki Kerasidou, universitair hoofddocent aan het Ethox Centre aan de Universiteit van Oxford, wijst op een ander eenvoudig probleem met het gebruik van AI om individuele mensen te vervangen.

“Een persoon stopt niet met groeien”, zegt ze. “De bot zal voor altijd statisch zijn, zelfs als je kunt leren van de interacties. We hebben het hier niet over een soort superintelligentie. We kunnen dus misschien bepaalde actieve handelingen reproduceren, maar ik denk niet dat we de persoon op zich kunnen reproduceren.”

Leave a Comment

Your email address will not be published.