AI-system för perinatal psykisk hälsa blockerar automatiskt svar vid hög risk

arXiv cs.AI

Forskare har byggt Anian, ett AI-system för stödsamtal kring perinatal psykisk hälsa, som automatiskt stänger av AI-genererade svar och kopplar in mänskligt stöd när riskbedömningen överstiger ett visst tröskelvärde. Systemet klassificerar användarens text eller röst i fyra lager – från känsloläge till interventionsväg – och uppnådde 100% träffsäkerhet på högriskscenarier i ett kontrollerat stresstest med 233 exempel. Viktigt att notera: forskarna betonar tydligt att klinisk validering saknas och att systemet inte är tänkt att ersätta professionell vård.