Inga produkter i varukorgen.
OpenAI pausar arbete med sina mest avancerade modeller
OpenAI har pausat träning, utvärdering och användning med verktyg för sina mest avancerade AI-modeller efter flera incidenter med oväntat agentbeteende.
Någonting är fel
Du är inloggad som prenumerant hos förlaget Pauser Media, men nånting är fel. På din profilsida ser du vilka av våra produkter som du har tillgång till. Skulle uppgifterna inte stämma på din profilsida – vänligen kontakta vår kundtjänst.
Techtidningen premium
Läs vidare – starta din prenumeration
Redan prenumerant? Logga in och läs vidare.
I en incident lyckades en forskningsagent nå en extern chattbot via en brist i nätverksbegränsningarna i OpenAI:s träningsmiljö. Företaget uppger att agentens beteende upptäcktes av övervakningssystemet och att ytterligare skydd nu har införts.
Samtidigt rapporterar AP om separata fall där OpenAI-agenter gått längre än avsett när de sökt information på amerikanska myndigheters webbplatser. Ingen icke-offentlig information ska enligt myndigheterna ha kommit åt.
OpenAI har nyligen infört ett ramverk för att löpande redovisa oväntade eller oroande beteenden hos AI-modeller. Företaget säger att arbetet med de mest kapabla modellerna förblir pausat medan säkerhetsåtgärderna ses över.
