Inga produkter i varukorgen.
AWS lanserar verktyg som stoppar ai-hallucinationer
ai Ett problem med generativ ai är hallucinationer, det vill säga felaktiga och missvisande uppgifter. Nu tar molnjätten Amazon Web Services ett stort steg framåt och presenterar ett nytt verktyg för att komma åt problemet.
Matt Garman är vd på AWS. Foto: Noah Berger
Amazon Web Services Re: invent, som arrangören själv beskriver som årets största molnhändelse, har kickstartat i Las Vegas. Eventet har temat generativ ai och samlar tiotusentals molnexperter, teknikföretag, partners och teknikfantaster från hela världen. Molnjättens vd Matt Garman tog plats på scenen under eventets andra dag för att presentera AWS senaste innovationer, framsteg och planer inför framtiden.
Ett viktigt besked som han gav var att AWS lanserar ett nytt verktyg för att undvika ai-hallucinationer, det vill säga felaktiga och missvisande uppgifter. Hallucinationer uppstår till följd av begränsningar i språkmodeller och innebär att ai försöker göra logiska slutsatser bortom sin kunskap. Det har länge beskrivits som ett stort problem inom generativ ai då det undergräver systemet trovärdighet, och kan leda till allvarliga konsekvenser inom bland annat sjukvård, finanssektorn och statliga myndigheter.
Att åtgärda problemet har därför betraktats som en hög prioritet bland utvecklare av ai-tjänster. Och nu ser det alltså ut som om Amazon Web Services har kommit närmare en lösning.
Verktyget, Automated Reasoning checks, är en ny funktion för AWS professionella ai-plattform Amazon Bedrock, som är ett slags portal som gör det enkelt att integrera och implementera en mängd olika ai-modeller från olika tillverkare. Enligt AWS är verktyget det ”första” och ”enda” generativa ai-skyddet som hjälper användare att förhindra faktafel på grund av modellhallucinationer.
– Det har en kapacitet som inte finns någon annanstans, meddelar molnjättens vd Matt Garman från scenen på Re:invent.
Att det är det första och enda verktyget mot ai-hallucinationer är dock en sanning med modifikation. Både Google och Microsoft har lanserat liknande verktyg det senaste året. Unikt för AWS-verktyget är att det kan tillämpas inom Amazon Bedrock-plattformen, med en kundbas som har vuxit med 4,7 procent det senaste året och nu har över 10 000 användare. Samtidigt ska nämnas att det handlar om att minska hallucinationer, inte att helt och hållet eliminera dem.
Denna artikel var tidigare publicerad på tidningen telekomidag.se