AI-stack

Text-LLM

Moderna LLM:er i Azure hanterar alla text-baserade tasks: Ellys konversation och verktygsanrop, extraktion ur dokument, klassificering av mail, och generering av personliga utskick. Vi väljer modell baserat på task — kraftfull modell med caching för Ellys agent-konversation, snabb modell för klassificering och extraktion där det räcker.

Embeddings

Spekulant-preferenser och objekts-features omvandlas till vektor-embeddings via en embedding-modell i Azure. Detta är fundamentet för all semantisk matchning. Embeddings lagras pseudonymiserade i vårt vektorlager.

Re-ranker (tvåstegs-matchning)

Steg 1: vektorsökning ger en bred kandidatlista. Steg 2: en LLM re-rankar med strikt validering mot must-haves och dealbreakers. Resultatet: rangordnad lista med motivering per match.

Dokumentförståelse (vision)

Inkommande dokument (årsredovisning, energideklaration, stadgar, mäklarbild) tolkas av en vision-modell som läser även skannade och fotade dokument, tabeller och noter — och extraheras till strukturerad data med källa och konfidensgrad per fält.

Ton- och stilprofil per mäklare

Elly lär sig mäklarens skrivröst ur historiska annonser och återanvänder den vid textgenerering. Profilen är per mäklare och delas aldrig mellan kunder.

Varför modeller via Azure?

• •Dataresidens: garanterat EU-data-handling
• •GDPR: enklare avtalsförhållande via Microsofts enterprise-ramavtal
• •Latency: lägre än US-baserade endpoints för svenska användare
• •Compliance: större byråer kräver ofta MS som leverantör
• •Ingen finjustering på kunddata — grundmodeller används som de är

På roadmap

• •Röst: prototyp med svensk röst finns, driftsätts när pilotdata motiverar det
• •Inlärningsloop för matchning: lära av utfall som visningar och bud