澳大利亚要求科技公司防止儿童接触有害内容?

图片：澳大利亚需要更多人工智能聊天机器人公司来解释如何防止儿童接触危险内容。图为墨尔本学生正在看手机。 \ 法新社【大公报】据路透社报道，澳大利亚向四家提供人工智能（AI）聊天机器人的公司发出通知，要求AI公司解释如何防止儿童接触色情内容或与自我相关的内容，这表明澳大利亚当局正在加强AI领域的安全监管。澳大利亚电子安全专员办公室在一份声明中表示，已要求相关公司提供具体保障措施，以防止儿童性剥削、色情内容以及宣扬自杀或饮食失调的内容。收到通知的公司包括人工智能聊天机器人character.ai的母公司Character Technologies，以及竞争对手Glimpse.ai、Chai Research和Chub AI。据澳大利亚在tralia的在线监管系统中，电子安全专员有权要求互联网公司报告内部安全流程。如果该公司拒绝回应，将面临每日最高82.5万澳元（约417万港元）的罚款。澳大利亚安全专员格兰特表示：“这些服务也有阴暗面。许多聊天机器人可以与未成年人进行性对话……一些人担心它们还会鼓励自杀、自残和饮食失调行为。”澳大利亚聊天机器人用户数量正在迅速增加。仅character.ai 就有近 160,000 名澳大利亚每月活跃用户。澳大利亚电子安全专员办公室指出，澳大利亚一些学校报告称，年仅13岁的儿童每天与聊天机器人聊天长达五个小时，有时涉及性话题；因此，未成年人可能会对这些机器人产生性或情感依赖，或者受到启发红色表示进行自残。澳大利亚近年来加强了对社交媒体的监管，以防止其对青少年和儿童产生负面影响。自今年12月起，社交媒体公司必须停用或拒绝16岁以下用户的账户，否则将面临高达4950万澳元（约合2.5亿港元）的罚款。