Inga produkter i varukorgen.
”Det är inte lätt att tycka om AI när till och med SVT kör i diket”
krönika Public service borde vara ett föredöme när det gäller användningen av banbrytande teknik som kan förändra samhället i grunden. Trots detta hamnar Sveriges television rejält snett i sin användning av AI-genererade undertexter.
En gång i tiden var det en självklarhet att Sveriges television skulle ha undertexter av hög kvalitet. Textningsarbetet utfördes av levande människor, som tränade i åtskilliga timmar för att kunna texta exempelvis nyhetssändningar i realtid.
Visst, undertextarna begick ibland misstag, men när så skedde fick man backa tillbaka några steg och börja om från början. Men det var ändå betydligt mycket bättre än när någon på SVT fick den briljanta idéen att ersätta människor med den senaste AI-tekniken.
Undertexter som skapas av en AI-funktion i realtid har använts av SVT sedan ett drygt år tillbaka. Först i SVT Forum, men därefter även i nyhetssändningar. Idag används tekniken i omkring hälften av alla SVT:s direktsändningar, och hittills helt utan mänsklig kvalitetskontroll.
Nyligen kritiserades AI-textningen av Granskningsnämnden, vilket SVT själva uppmärksammade i ett avsnitt av Aktuellt. När jag fick se en sammanställning av de mest flagranta misstagen var det uppenbart att något gått rejält snett.
Exmpelvis fick Centerpartiets tidigare partiledare Muharrem Demirok ett helt nytt namn: ”Mördaren där i rock”. Och just felaktiga namn är ett återkommande problem i AI-undertextningen, där namn som ”Ulrika Bajsten” och ”Israel Katt” förekommit.
Andra mindre lyckade exempel är att ”stridande hizbollah” textades som ”ridande husbollar” och under den tragiska masskjutningen i Örebro förekom textningen ”pågående dödligt Volvo”.
Ja, ni förstår, det börjar likna ett praktexempel på hur någon har implementerat den senaste AI-tekniken utan att reflekta över vilken kvalitetssäkring som krävs eller vilka följderna kan bli.
Att det är just Sveriges television som misslyckas gör det hela än mer pinsamt. SVT är en samhällsinstitution som vi måste kunna lita på, särskilt när Aktuellt och Rapport berättar om dramatiska händelser i vår oroliga omvärld.
Skrattet fastnar i halsen
AI-textningen har fått många att dra på smilbanden, men skrattet fastnar i halsen när man tänker på vilka konsekvenserna kan bli på andra områden där AI används i allt större omfattning, exempelvis inom sjukvården. Här är om möjligt kraven på att informationen går att lita på ännu större.
När allt fler börjar använda sig av AI i sitt arbete är det helt avgörande att man sätter säkerhet, kvalitetsgranskning och etiska principer främst. Om inte dessa pusselbitar är på plats ska det vara helt uteslutet att släppa loss AI-tekniken i den skarpa verksamheten.
Techtidningens redaktion tar dagligen emot pressreleaser om nya AI-tjänster, inte minst AI-agenter, och just frågan om kvalitetssäkring lyfts ofta fram som en viktig del av lösningen. Exempelvis har mjukvaruföretaget Zendesk tagit fram en lösning för att analysera och kvalitetssäkra alla interaktioner mellan AI-agenter och kunder.
Om inte SVT och andra ledande aktörer kan leva upp till kvalitetskraven kan vi säkert räkna med att ytterligare lagar och regleringar tillkommer, kanske i form av ett nytt EU-direktiv. Eller som SVT:s AI-undertextning ibland kallar det, ett ”urindirektiv”.
