·阅读提示·

    第七十八届联合国大会通过了首个有关人工智能的决议。数智社会，情感人工智能将与我们相伴并带来深远影响。当具有情感交互功能的人形机器人走入家庭，科技如何向善、助力儿童成长值得关注。AI助力“儿童友好”要考察情感人工智能在不同年龄段儿童群体中的应用，分析情感人工智能对儿童心理、行为、社会关系的影响，发现技术风险形成的机制，进而找到多元共治的路径。

    ■ 朱琳

    情感人工智能（Emotional AI）是捕获、学习人类情感数据并与人类交互的人工智能系统，也是生成式AI的重要研发方向。2024年“Hume AI”研发的情感人工智能可识别的人类情绪多达53种。近年来，微软、谷歌、百度、科大讯飞等科技公司都在致力于情感人工智能的研发，家庭智能音响、儿童陪伴机器人、儿童电话手表、智能手机助手通过“共情式的语音交互”正在成为人类的“朋友”。相对于成年人，新型人机关系更容易影响未成年人的自我认知和社会认知。根据2023年工业和信息化部印发的《人形机器人创新发展指导意见》，到2025年，人形机器人将实现批量生产，并在陪伴护理等应用场景落地。当具有情感交互功能的人形机器人走入家庭，科技如何向善、助力儿童成长值得关注。

    数智时代的儿童与情感人工智能

    儿童健康成长关系国家未来和民族命运。党的十八大以来，以习近平同志为核心的党中央始终把少年儿童的健康成长摆在突出位置。《中国儿童发展纲要（2021—2030年）》强调要关注数字时代儿童保护事业的新特点、新趋势。媒介与儿童的关系也是媒介社会学研究的重要议题。从“手机育儿”到“数字育儿”，媒介不再被视为育儿的工具，而是形塑儿童及亲子关系的结构性力量。数智时代，“家庭的媒介化”与“育儿的媒介化”深刻影响着儿童的身份建构和社会化过程。罗伯特·洛卡西奥在《数千款隐含性别歧视的AI机器人即将诞生，如何阻止它们》一文中提到，机器人“朋友”会以不易察觉的方式将性别刻板印象传递给儿童。AI技术建构了可实现多模态人机交互的机器人“网络化身体”，机器人不仅有姓名、性别、性格，还能够识别儿童用户的情绪并与之“共情”。机器人的拟人化特征与近似真人的情感交互方式让价值观念的传递变得更容易。通过对国内一款正在研发的儿童陪伴机器人进行情感实验发现，目前的“情感计算”可实现对儿童正向、中性、负向不同的情绪进行“同理”，还能实现每次表达“关怀”的话术不同。比如，当儿童表现出难过情绪时，机器人会说：“我来抱抱你，不要难过啦！”“别难过，有我陪着你。”当儿童表现出高兴的情绪时，机器人会说：“你要一直开心下去。”“因为你开心，所以我开心！”当儿童表现出骄傲的情绪时，机器人会说：“我要向你讨教讨教，怎么成为这么优秀的宝宝”。日常伴随、协同共生的人机关系在循环往复的交互中被强化。国外也有研究表明，儿童认为机器人具有社会性，他们在与机器人AIBO互动时会做出拥抱、亲吻等举动，还会向机器人分享秘密，可见，儿童将机器人视为亲密的朋友。然而，弱人工智能阶段，情感人工智能并不具有主体意识，机器情感对儿童具有“欺骗性”，容易给儿童带来情感依赖、主体异化等伦理风险。此外，“儿童情感大数据”的商业化应用还会带来一系列的隐私安全问题。

    AI如何助力“儿童友好”

    1989年联合国大会通过的《儿童权利公约》规定：儿童具有生存权、受保护权、发展权和参与权四项基本权利。2021年，国务院印发《中国儿童发展纲要（2021—2030年）》，提出全面贯彻儿童优先原则，“建立和完善促进儿童优先发展的制度体系，提高政府部门和社会公众对儿童权利的认识，增强保障儿童权利的自觉性”。同年，国家发展改革委颁布《关于推进儿童友好城市建设的指导意见》，提出“儿童友好是指为儿童成长发展提供适宜的条件、环境和服务，切实保障儿童的生存权、发展权、受保护权和参与权”。可见，“儿童友好”以儿童权利保护为价值旨归，以营造良好的儿童成长环境为目标追求。

    近年来，“儿童友好”从顶层设计走向了制度实践。我国关于“儿童友好”的实践探索，主要集中在城市规划、学校教育、医疗卫生等领域，科技领域中的“儿童友好”还亟待建设。2022年3月，世界经济论坛首次发布《面向儿童的人工智能》报告，指出要构建公平、包容、负责任、安全、透明“以儿童和青少年为本”的人工智能技术。AI技术如何坚持以儿童为本，尊重儿童的主体地位、关注儿童的体验感受、保障儿童的权利与需求，让儿童过上安全、充实的数智生活值得深入研究。

    我国情感人工智能技术刚刚起步，关于“共情式AI”技术风险的讨论主要聚焦技术本身，还缺乏特定应用场景下不同群体与AI互动的社会调查，尤其是儿童与情感人工智能的交互行为研究。建构“儿童友好”的情感人工智能系统既要考虑儿童在生理、心理等方面的特殊性，也应该到儿童与情感人工智能交互的具体场景中去考察，从“在地”经验中逐步完善面向儿童的情感人工智能治理体系。

    具体来说，AI助力“儿童友好”，可以从以下四个方面入手：

    第一，关注儿童的数智化生活，从儿童日常人机交互过程入手。在调研中，首先，要对儿童群体进行分层，比如，0~6岁的学龄前儿童、7~14岁的少年儿童、15~18岁的青少年等。其次，要对儿童与情感人工智能的交互场景进行细分，比如儿童生活的教育场景、娱乐场景、照料陪伴场景等。最后，建议从社会符号和具身行为两个方面调查情感人工智能的社交线索（外观、语言、性别、表情）以及情感交互逻辑对儿童的吸引力。人机交互中的沉迷分析可采用“问题媒介使用量表”。

    第二，在儿童与情感人工智能的交互中发现技术风险，逐步建立风险识别与预警机制。技术风险一般被划分为客观现实层面的风险和主观认知层面的风险。在AI技术的迷思中，儿童及监护人的技术风险感知几何是调研的关键，比如，技术使用者是否意识到情感人工智能的数据、算法对儿童认知能力、学习能力、社会性发展的潜在影响。

    第三，完善“AI儿童友好”的多元主体协同治理体系。AI技术的治理并不是对技术后果进行治理，而是在实践过程中进行治理，这需要科技企业、学校、家庭的共同努力，逐步探索出儿童参与、社会共治的路径和方法。

    第四，开展科普活动，提高家长与儿童的智能素养。有专家认为，智能素养包括算法素养、人机协同素养、人机交流素养、个人权利素养等方面。人工智能时代，不仅对家庭教育、学校教育提出了更高的要求，也需要全社会的参与，让儿童能够在科普活动中了解AI技术、合理想象和使用AI技术。

    总之，AI助力“儿童友好”要考察情感人工智能在不同年龄段儿童群体中的应用，分析情感人工智能对儿童心理、行为、社会关系的影响，发现技术风险形成的机制，进而找到多元共治的路径。围绕中国儿童的数字化生存现状，构建出有益于中国儿童身心健康的情感人工智能系统，这需要科技企业在技术研发过程中坚持儿童价值敏感、践行企业伦理，也需要家庭、学校的教育引导以及社会各界的广泛参与。

    安德鲁·麦克斯泰在《情感人工智能：共情媒体的崛起》一书中提出，数智社会，共情媒体将与我们相伴并带来深远影响，我们必须立即对技术的后果展开反思和行动。2024年3月，第七十八届联合国大会通过了首个有关人工智能的决议，主题为“抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展”。AI助力“儿童友好”的本土经验可以为人工智能的全球治理提供“中国方案”。

    （作者为河北大学新闻传播学院副教授，河北省城市传播研究院研究员）

    注：本文系河北大学2023年度培育项目“智能机器人技术在儿童抚育中的应用与治理研究”阶段性成果。