Den nyetablerade startupen Artificial Intelligence Underwriting Company (AIUC) har säkrat 40 miljoner dollar i en Series-A-runda ledd av Ribbit Capital, med medfinansiering från First Harmonic. Företaget grundades av en tidigare tidig anställd på Anthropic och den tidigare COO:n för METR, och fokuserar på att utveckla tekniker som kan hålla AI-agenter under kontroll och förhindra oönskade beteenden.

Lösningarna bygger på avancerade risk- och underwriting-modeller som analyserar AI-systemens potentiella avvikelser i realtid, vilket möjliggör snabb ingripning innan skadliga handlingar kan inträffa. Investeringen syftar till att skala upp tekniken, stärka teamet och påbörja pilotprojekt med stora teknik- och hälsoföretag.