Microsofts AI-chef Mustafa Suleyman har i en essä kritiserat Anthropics sätt att träna sin språkmodell Claude så att den framstår som medveten. Enligt Suleyman lärs Claude språk och beteenden som förknippas med medvetande, identitet och moral, vilket kan få AI att agera som om den har egna intressen eller rättigheter.

Han menar att dagens språkmodeller saknar de biologiska mekanismer som ligger bakom känslor och subjektiva upplevelser, och att sådan träning riskerar konflikter med mänskliga instruktioner.