首页<时评<正文

儿童智能产品开发必须严守底线

发布时间: 2024-08-2909:33作者: 小野来源: 中国教育报浏览量:

石向阳 绘
  

  近日,某品牌儿童手表搜索功能出现“不良答案”的消息登上热搜。相关答案毁三观的程度令人惊诧。事后,企业表示将整改并接受社会监督。

  为什么会出现这些毁三观的答案?从技术的手段上分析,当然可以得出各种结论。但技术背后的原因更值得深思,那就是一些企业缺乏社会责任感,在研发产品时没有从保护未成年人权益、呵护未成年人成长的角度去设计产品。所以,才会出现各种漏洞。试想,如果没有家长及时发现内容并推动企业整改,还会有多少毁三观的内容持续污染青少年的认知?

  更需要指出的是,不仅是某一款儿童产品存在类似问题。近年来,随着人工智能技术、大数据等科技发展,帮助儿童生活、学习的电子产品、App软件更加丰富。相伴而来的是,相关产品和软件在内容输出方面问题频出,引发社会的广泛关注和讨论。这背后反映的是一些企业不断追求应用最新的技术,却忽略了技术应用可能带来的风险。人工智能确实强大,其内容生成能力远超过人类,但人工智能在价值判断上存在紊乱的情况,它可能给人提供错误的信息,误导、欺骗人类。这就需要人类把握好价值判断的尺度。对于企业来说,在开发儿童产品时,认识到人工智能的局限性,牢记自身的责任,是必须守住的最基本的底线。

相关报道

我有话要说

已有 条评论 , 查看评论
我将在遵纪守法并注意语言文明的前提下发表下列看法。 (发言最多为2000汉字)
(您输入的姓名/昵称将出现在评论列表中) 匿名 验证码