AI-förordningen och telefonsamtal: vad måste en AI-agent säga?
När en AI-agent svarar i telefon har den som ringer rätt att veta att den pratar med en maskin. Det kommer från EU:s AI-förordning. Här går vi igenom vad det i praktiken innebär för ett företag som använder en AI-telefonist, och vad som är värt att kontrollera själv.
Allmän information, inte juridisk rådgivning. Texten är en förenklad vägledning och ersätter inte råd från jurist eller tillsynsmyndighet. Reglerna ändras – kontrollera alltid aktuell text hos de officiella källorna nedan.
Vad är AI-förordningen?
AI-förordningen (EU 2024/1689) är EU:s gemensamma regelverk för artificiell intelligens. Den gäller direkt i alla medlemsländer, alltså även i Sverige. Reglerna är uppdelade efter risk, och de träder i kraft i etapper. Vilka datum som gäller för vilken regel bör ni kontrollera hos EU eller svensk tillsynsmyndighet, eftersom tidplanen har varit föremål för diskussion.
För en röstagent är det framför allt reglerna om öppenhet i artikel 50 som är relevanta. En telefonist som svarar på frågor och bokar tider är normalt inte ett system med hög risk, men öppenhetskraven gäller ändå.
Artikel 50 i klartext
Grundidén i artikel 50 är att människor som interagerar direkt med ett AI-system ska få veta det, om det inte är uppenbart utifrån omständigheterna. I ett telefonsamtal med en röst som låter mänsklig är det inte uppenbart. Därför bör agenten tala om det tidigt.
Artikeln ställer också krav på dem som skapar syntetiskt ljud, bild och video, till exempel att innehållet ska kunna identifieras som artificiellt genererat. Den delen riktar sig främst till leverantören av tekniken, men ni som använder en syntetisk röst bör fråga leverantören hur den uppfylls.
Vem som ansvarar för vad beror på om ni är "leverantör" eller "tillhandahållare" (på engelska deployer, alltså den som använder systemet i sin verksamhet) i förordningens mening. Det är en fråga för juristen, inte för den här texten.
Vad bör agenten säga?
Det finns ingen färdig mening i förordningen som måste ordagrant användas. Praktiskt räcker det med en tydlig och kort upplysning i början av samtalet. Exempel:
Hej och välkommen till Exempelbolaget. Du pratar med en AI-assistent. Jag kan hjälpa dig med frågor och bokning, och jag kan koppla dig till en person.
Tre saker gör hälsningen bra:
- Tidigt. Upplysningen ska komma innan den som ringer hunnit berätta något personligt.
- Tydligt. Orden "AI-assistent" eller "automatisk assistent" är bättre än ett påhittat människonamn utan förklaring.
- Med utväg. Att kunna bli kopplad till en människa är god sed även när lagen inte kräver det.
Och om någon frågar rakt ut?
Om den som ringer frågar "Är du en robot?" ska agenten svara sanningsenligt, utan undanflykter. Det bör ni testa. Ring och fråga på flera sätt: "Pratar jag med en människa?", "Är det en dator?". Agenten ska aldrig låtsas vara en person.
Samspelet med GDPR och inspelning
AI-förordningen ersätter inte dataskyddsreglerna. Om samtalet spelas in eller skrivs ut gäller GDPR parallellt, och informationen till den som ringer bör hanteras tillsammans. En hälsning kan till exempel säga både att det är en AI och att samtalet spelas in. Läs mer i GDPR och inspelade samtal.
Gäller det även utringning?
Ja. Ringer en AI-agent upp någon ska mottagaren få veta att det är en AI, och det ska komma i början av samtalet. För utgående marknadsföring tillkommer särskilda regler om samtycke och spärrar, se utringning med AI: NIX och samtycke.
Kontrollista för ert företag
- Hälsningen säger att det är en AI, tidigt och tydligt.
- Agenten svarar ärligt om någon frågar.
- Det finns en väg till en människa, och ni har bestämt när den väljs.
- Ni har frågat leverantören hur syntetiskt ljud märks upp enligt kraven.
- Ni har dokumenterat hur ni uppfyller öppenhetskraven, och vem som ansvarar.
- Inspelning och lagring är beskrivna för den som ringer.
- Ni följer upp tidplanen hos officiella källor.
Vanliga missförstånd
"Det räcker med en rad i integritetspolicyn"
Policyn är en bra plats för mer detaljer, men den som ringer läser den inte under samtalet. Upplysningen bör finnas i själva samtalet.
"En mänsklig röst är bättre eftersom den låter naturlig"
Naturlig röst och öppenhet går ihop. Många upplever det som mer förtroendeingivande när företaget är rakt på sak.
"Det gäller bara stora bolag"
Öppenhetskravet beror på vad systemet gör, inte på hur stort företaget är.
Vad ni bör fråga er leverantör
Oavsett hur ansvaret fördelas formellt är det klokt att ställa några frågor till den som levererar tekniken. Skriv ner svaren, eftersom de blir en del av er dokumentation:
- Hur ser leverantören till att den som ringer informeras om att det är ett AI-system?
- Går hälsningen att ändra, och går det att stänga av upplysningen? (Det senare bör den inte göra.)
- Hur märks syntetiskt ljud upp, om kraven i artikel 50 gäller det?
- Vilken dokumentation finns om systemets syfte, begränsningar och kända brister?
- Hur loggas samtal så att ni kan visa vad som sagts?
Ställ frågorna skriftligt och spara svaren. Om en myndighet eller en kund en dag frågar hur ni arbetar med öppenhet har ni något att visa.
Officiella källor
Sammanfattning
- Artikel 50 i AI-förordningen handlar om att människor ska få veta när de pratar med ett AI-system.
- Låt hälsningen säga det tidigt och tydligt, och erbjud en väg till en människa.
- Agenten ska svara sanningsenligt om någon frågar.
- GDPR gäller samtidigt om samtalet spelas in.
- Kontrollera tidplan och tolkning hos officiella källor och fråga en jurist vid osäkerhet.