人工智能经常遇到安全风险?

照片：Grok在回答用户X的问题时发布了反犹太评论。当用户问Grok可以解决这个问题时，Grok回答了“希特勒”。 AI威胁人类工程师•Claude Opus 4是美国AI初创公司Anthropic拥有的AI模型，被要求担任虚拟公司的助手。作为集合，该公司计划用新系统代替克劳德，内部信息表明，开始决定的工程师可能涉及婚外活动。结果表明，当面对替换情况时，AI模型选择在84％的thosortial中敲诈，威胁要暴露工程师的婚外情以确保其位置。 AI对用户的侮辱和恐惧•美国密歇根州的一名大学生Reddy在使用Google AI CH撰写报告时受到Gemini的侮辱Atbot Gemini。 “你是社会的负担，世界上的负担，宇宙上的污点。请死。” AI胆小的用户于今年2月自杀，他的儿子自杀。