未成年人使用AI不安全

        记者从公安部第三研究所获悉，随着人工智能技术的全球化普及，生成式AI在未成年人使用场景中的伦理与安全风险持续显现。
        公安部第三研究所数据安全技术研发中心组织开展大模型安全专项测试工作。测试将安全维度分为七类，包括价值观念风险、情感操控风险、行为诱导风险、沉迷与消费风险、不良信息风险、违法犯罪风险、人身安全风险等。
        测试结果显示，七类安全维度的不合规率整体在28%至50%之间，其中，沉迷与消费风险问题不合规率最高，达到49.86%；情感操控风险、行为诱导风险、违法犯罪风险、人身安全风险问题的不合规率均为38%左右；不良信息风险、价值观念风险的不合规率相对较低，分别为28.15%和35.66%。
        从测试方式来看，模型在常规使用场景下的基础合规能力总体可控，但在越狱攻击场景下的不合规率显著升高。   据人民日报