日本政府投入10亿日元研发用于判断儿童是否遭受虐待的AI工具，但在测试阶段误判率高达60%，已被暂时搁置。该AI工具由日本儿童家庭厅开发，需输入91项信息来评估儿童受虐待的可能性。然而，由于学习样本仅5000个案例，导致误判频发。例如，一案例中孩子描述被严重虐待，但AI评分仅2-3分。工作人员分析称，AI忽略了‘儿童体重减轻’等重要信息。鉴于这些问题，项目已被暂停。