Alexa herbouwen: hoe Amazon modellen, agents en browsergebruik combineert voor slimmere AI

Amazon zet in op agent-interoperabiliteit en modelmenging om de nieuwe spraakassistent Alexa effectiever te maken. De spraakassistent is uitgerust met agent-mogelijkheden en taken die via de browser kunnen worden gebruikt.

Deze nieuwe Alexa is omgedoopt tot Alexa+ en Amazon benadrukt dat deze versie “meer doet.” Zo kan het gebruikers nu proactief vertellen of er een nieuw boek van hun favoriete auteur beschikbaar is, of dat hun favoriete artiest in de stad is — en zelfs aanbieden om een ​​kaartje te kopen. Alexa+ redeneert via instructies en tikt op “experts” in verschillende kennisbanken om vragen van gebruikers te beantwoorden en taken uit te voeren zoals “Waar is de dichtstbijzijnde pizzeria bij het kantoor? Zullen mijn collega’s het leuk vinden? — Maak een reservering als je denkt dat ze dat zullen doen.”

Met andere woorden: Alexa+ combineert AI-agenten, computergebruiksmogelijkheden en kennis die het leert van het grotere Amazon-ecosysteem om zo een nog capabelere en slimmere spraakassistent voor thuis te worden, zo hoopt Amazon.

Alexa+ draait momenteel op de Nova-modellen van Amazon en modellen van Anthropic . Daniel Rausch, Amazon's VP van Alexa en Echo, vertelde VentureBeat echter dat het apparaat "model-agnostisch" zal blijven en dat het bedrijf andere modellen zou kunnen introduceren (in ieder geval modellen die beschikbaar zijn op Amazon Bedrock ) om de beste te vinden voor het uitvoeren van taken.

"[Het gaat om] het kiezen van de juiste integraties om een ​​taak te voltooien, het vinden van de juiste soort instructies, wat er nodig is om de taak daadwerkelijk te voltooien, en dan het geheel orkestreren," zei Rausch. "Het belangrijkste om te begrijpen is dat Alexa zal blijven evolueren met de beste modellen die overal op Bedrock beschikbaar zijn."

Met modelmixing of modelroutering kunnen bedrijven en andere gebruikers het juiste AI-model kiezen om op query-voor-query-basis aan te boren. Ontwikkelaars maken steeds vaker gebruik van modelmixing om kosten te besparen. Niet elke prompt hoeft immers te worden beantwoord door een redeneermodel; sommige modellen voeren bepaalde taken beter uit.

Amazon's cloud- en AI-eenheid, AWS , is al lang een voorstander van modelmixing. Onlangs kondigde het een functie aan op Bedrock genaamd Intelligent Prompt Routing , die prompts naar het beste model en modelformaat stuurt om de query op te lossen.

En het zou kunnen werken. "Ik kan je vertellen dat ik niet kan zeggen welk model Alexa gebruikt voor een bepaalde respons op een bepaalde taak," zei Rausch.

Rausch zei dat Alexa+ agenten op drie verschillende manieren samenbrengt. De eerste is de traditionele API; de tweede is het inzetten van agenten die door websites en apps kunnen navigeren, zoals Anthropic's Computer Use ; de ​​derde is het verbinden van agenten met andere agenten.

"Maar centraal in het geheel, het orkestreren van al die verschillende soorten ervaringen, staan ​​deze basis, zeer capabele, state-of-the-art LLM's", aldus Rausch.

Hij voegde toe dat als een applicatie van derden al een eigen agent heeft, die agent nog steeds kan communiceren met de agenten die binnen Alexa+ werken, zelfs als de externe agent is gebouwd met behulp van een ander model.

Rausch benadrukte dat het Alexa-team gebruikmaakte van de tools en technologie van Bedrock, waaronder nieuwe multi-agent-orkestratietools .

Anthropic CPO Mike Krieger vertelde VentureBeat dat zelfs eerdere versies van Claude niet kunnen doen wat Alexa+ wil.

"Een heel interessant 'Waarom nu?'-moment is duidelijk zichtbaar in de demo, omdat de modellen natuurlijk beter zijn geworden," zei Krieger. "Maar als je dit zou proberen te doen met 3.0 Sonnet of onze 3.0-levelmodellen, denk ik dat je op veel manieren moeite zou hebben om veel verschillende tools tegelijk te gebruiken."

Hoewel Rausch en Krieger niet wilden bevestigen welk specifiek Anthropic-model Amazon gebruikte om Alexa+ te bouwen, is het de moeite waard om te vermelden dat Anthropic maandag Claude 3.7 Sonnet uitbracht en dat deze beschikbaar is op Bedrock.

Veel gebruikers kwamen voor het eerst in aanraking met AI via AI-spraakassistenten zoals Alexa, Google Home of zelfs Apple's Siri. Daarmee konden mensen taken uitbesteden, zoals het aanzetten van de lichten. Ik heb zelf geen Alexa- of Google Home-apparaat, maar ik heb onlangs geleerd hoe handig het kan zijn om er een te hebben toen ik in een hotel verbleef. Ik kon Alexa vertellen om het alarm uit te zetten, de lichten aan te zetten en een gordijn te openen terwijl ik nog onder de dekens zat.

Maar terwijl Alexa, Google Home-apparaten en Siri alomtegenwoordig werden in het leven van mensen, begonnen ze hun leeftijd te tonen toen generatieve AI populair werd. Plotseling wilden mensen meer realtime antwoorden van AI-assistenten en eisten ze slimmere taakresoluties, zoals het toevoegen van meerdere vergaderingen aan agenda's zonder dat er veel aansporing nodig was.

Amazon gaf toe dat de opkomst van de generatie AI, met name agents, ervoor heeft gezorgd dat Alexa eindelijk zijn volledige potentieel kan benutten.

"Tot op dit moment werden we beperkt door de technologie van wat Alexa kon zijn", zei Panos Panay, SVP apparaten en services bij Amazon, tijdens een demo.

Rausch zei dat de hoop is dat Alexa+ blijft verbeteren, nieuwe modellen toevoegt en hopelijk meer mensen vertrouwd maakt met wat de technologie kan doen.