Salesforce AI Research heeft een belangrijke stap gezet in de ontwikkeling van intelligente en betrouwbare AI-agenten. Met de introductie van nieuwe benchmarks, beschermende maatregelen (guardrails) en geavanceerde modellen wil het bedrijf een antwoord bieden op een van de grootste uitdagingen binnen kunstmatige intelligentie: de zogeheten ‘jagged intelligence’.
AI-agenten
Jagged intelligence verwijst naar de kloof tussen de indrukwekkende capaciteiten van Large Language Models (LLM’s), zoals het schrijven van essays of vertalen van talen, en hun inconsistente prestaties in realistische, complexe bedrijfsomgevingen. Waar AI op papier briljant lijkt, schiet ze in de praktijk vaak tekort bij het uitvoeren van consistente, taakgerichte acties. In bedrijfsomgevingen, waar betrouwbaarheid essentieel is, kan één verkeerde beslissing leiden tot verstoringen in processen, verlies van klantvertrouwen en zelfs financiële of reputatieschade.
Salesforce erkent dat hun klanten niet zomaar slimme technologie zoeken, maar vooral behoefte hebben aan AI die betrouwbaar presteert op schaal. Om die reden werkt Salesforce AI Research volgens drie strategische pijlers:
- Fundamenteel onderzoek – Het team identificeert eerst kernproblemen in de industrie, ontwikkelt nieuwe benchmarks om inconsistenties in AI-prestaties te meten en bouwt modellen die context beter begrijpen. Door deze inzichten te publiceren, draagt Salesforce bij aan de vooruitgang van het hele AI-veld.
- Samenwerking met klanten – Vervolgens worden prototypes getest in gesimuleerde omgevingen bij klanten. Door middel van co-innovatie wordt de technologie aangescherpt op basis van echte workflows en feedback.
- Productinnovatie – Ten slotte worden de best presterende prototypes omgezet in schaalbare oplossingen, zoals Agentforce (de agentische laag van Salesforce), de Atlas Reasoning Engine en geavanceerde Retrieval-Augmented Generation (RAG)-technologieën. Deze worden allemaal ondersteund door de Salesforce Trust Layer, die veiligheid en transparantie waarborgt.
Aanpak
Met deze aanpak bouwt Salesforce aan AI-agenten die niet alleen slimmer zijn, maar ook betrouwbaarder en flexibeler inzetbaar. Door voortdurend te leren van echte klantomgevingen wordt AI steeds beter afgestemd op de praktijk, een cruciale stap richting een toekomst waarin AI een volwaardige partner is binnen iedere organisatie.