别让AI失了“爱”

文章来源：万象ai发布时间：2025-01-09 14:32:19

近日，青岛小美（化名）在使用某网盘时，被首页“往年今日”推荐了一张自己怀孕的照片，并配文“脑子不够，肚子来凑”，文案疑似AI自动生成。小美觉得这句话对孕妇存在侮辱性，表示不愿再用该网盘，想取消会员，退还剩余未到期的部分。2024年12月31日，相关平台公司联系她进行了退款，同时回应：文案确实不妥，会进行记录，后续加强文案的筛选、提高模型训练和技术审核能力，避免再出现类似问题。（1月1日《扬子晚报》）虽然平台在第一时间回应了用户的诉求，承诺采取改进措施，但此事件再次引发了人们对于AI技术应用的思考和讨论。AI在社会生活的很多方面确实给人们带来了极大的便利，一定程度上提高了生产生活的效率，但其存在的潜在风险更不容忽视。“脑子不够，肚子来凑”从侧面反映出当前网络语言环境粗鄙和低俗的一面，而AI恰恰被喂养在这样纷繁复杂的网络中。它的决策和生成内容往往基于大量的数据训练，训练数据的偏差、不完整性会导致AI对社会部分群体产生偏见或者不恰当的评价。吃进去的是混杂着低俗、偏见的数据 “饲料”，吐出来的自然也可能是伤人的 “毒液”。AI的冒犯性、误导性或者侮辱性词汇，对敏感话题的蔑视，以及无法共情用户的情感心理自尊，很难想象用户该如何面对这种走偏的智能产物。AI技术的使用应该慎之又慎，企业也更要加强内容审核机制，对AI生成内容进行严格把控，及时阻止不恰当内容的出现。同时在应用AI技术时，不能一味地追求技术的创新和效率，而忽视技术背后的伦理和道德问题，要加强对AI技术的伦理培育，让AI前进的每一小步都体现着对用户的敬重，对社会公序良俗的维护。另外，**监管部门也应加大对科技行业尤其是AI技术运用领域的监管力度，建立健全监管体制，加强对相关企业的监督和检查，确保企业在使用AI技术服务时，遵守法律法规和社会道德规范。同时明确企业在AI技术使用中的社会责任以及法定义务，切实保护用户的合法权益。别让AI失了“爱”，AI的发展已然成为时代不可阻挡之势，如何驾驭这把技术的双刃剑是我们应当思考的问题。