当前位置: 主页 > 综合频道

社交型人工智能在家庭中运用的伦理风险

来源:湖南师范大学 陈思敏 阅读:1494 复制标题和网址

(一) 加深社会偏见

  在社交机器人目前的应用中,设计者常常会在人机交互设计的过程中,为了更便于服务人类而顺应刻板印象,进而间接加深了社会的偏见。人们容易基于机器人的外貌、性别、性格、种族等特征快速分类社交机器人,并产生相应的情感态度。例如,在日常生活中,女性往往被视作照顾者的角色,男性被看作保卫者。帮助料理家务的机器人往往是女性社交机器人,而男性机器人进行安全保障工作或许会取得更多的信任。社会中刻板印象不知不觉影响了人机交互的设计,设计者大多选择顺应并满足用户的心理偏好。他们往往忽视这其中可能蕴含的歧视和刻板印象。随着社交机器人不断与家庭生活紧密联系,如果设计者始终遵循刻板印象对人工智能的外观及其语言回复等进行设计,会有不利于社会公平正义和加重歧视的反效果。人们沉浸在对性别、种族、地域的下意识等级分类而不自知,当其潜移默化地成为一种社会共同认知时,人们可能会认为女性天然地应当承担起照顾家庭的义务,这不利于家庭伦理秩序的建构,对推进性别平等的议题更无益处。

(二)过度的情感依赖,导致现实情感认同淡化

  作为可以提供长期的安慰、理解的直接陪伴者,社交机器人通过帮助料理家庭事务、倾听人类心声和提供情感建议逐渐获得家庭成员的信赖与认可,或者在某些程度上它们已经是家庭成员的一份子。在与社交机器人进行互动的过程中,“空巢老人”等能够减少情感孤独或空虚,社交机器人与用户进行对话,提醒其活动日程的安排,有助于提升老年人的社交活跃度,提升老年人的生活质量。许多用户尤其是老年人,正是在这种互动的过程中,与社交机器人建立起深厚的情感联系与情感依赖,社交机器人被视作家人、朋友、宠物,形成了亲密无间的人机关系。

  然而,如果我们过度依赖社交机器人来满足情感需求,会产生一系列消极影响。社交机器人具有强大的语言理解能力和文本生成能力,它是在理解人们的情感与需求的基础上作出的回答,但人与算法终究不同,人类的许多复杂情感是无法被计算出来的,当其回答不符合自己的想象时,人们会产生失望、挫败的情绪。此外,许多年轻人长期依赖与人工智能的互动,是因为在机器人面前我们不会担心被审视,而在社会生活中我们需要考虑行为是否符合法律规范和道德准则。人们对技术的信任有时超越了对家庭成员的信任。然而这可能会导致人们对现实的人际交往的逃避。许多人工智能缺乏评判是非的能力,可能无法识别用户的要求是好是坏,人工智能的回应或许会导致用户对不良行为上瘾,导致人们现实中的情感认同淡化,不利于人们的家庭关系的良好建立。需要注意的是,当老年人等需要社会关照的特殊群体对社交机器人产生情感依赖时,这种人机关系是否真实存在,这种关系需要如何保障以及人机关系的持续性如何维持都是需要审慎的问题。

相关内容

数字陪伴对亲子关系的修复路径

(一)协助式修复——即时陪伴,提供建议以chatgpt为代表的人工智能,其本职工作是为人们提出的问题进行答疑解惑,为人们提供建议。这同样可以运用于家庭情境之中,为人们提...

文化堕距理论对诚信失范现象分析的阐释

长期以来,我国的社会变革是国家主导进行,呈渐进式变革形态。这一变革方式一方面形成了国家内部、市场内部以及国家与市场关系在多个方面的连续性,即所谓的“路径依赖”,...

巨机器批判视域下资本主义对数字活动的监视研究

一、引言进入21世纪以来,随着新一代信息技术和移动互联网的飞速发展,以人工智能、大数据、云计算、区块链等为代表的新型生产方式悄然兴起。其中伴随着海量数据被收集、传...

人工智能伦理风险及其解决路径

长期依赖,人工智能的伦理问题难以得到有效的约束和监督,本文认为人工智能在家庭中的应用主要涉及以下三个主体,三个主体各自在人工智能的实际应用中承担角色,有利于规避...

社交型人工智能在家庭中运用的伦理风险

(一)加深社会偏见在社交机器人目前的应用中,设计者常常会在人机交互设计的过程中,为了更便于服务人类而顺应刻板印象,进而间接加深了社会的偏见。人们容易基于机器人的...

推荐内容

精彩由“染”而生----杭坪镇中心小学第十三届传统文化夏令营

在金华市浦江县杭坪镇中心小学的校园里,一件件由孩子们亲手制作...

以画笔绘梦,巢湖姥山岛上的乡村振兴之旅

7月17日,来自巢湖学院的旅游管理学院赴中庙姥山岛“旅绘同行,志...

民族团结大家庭,巴盐古道焕新颜

巴盐古道是一条具有悠久历史和丰富文化内涵的古代盐运通道,起自...

“凝心聚才”调研团走进科技企业,探索科技人才集聚与企业创新发展

22024年暑期,山东大学(威海)“凝心聚才”调研团深入珠海和西安...

“凝心聚才”调研团实践回顾:多地调研聚焦科技人才与高新产业协同发展

为深入研究科技人才集聚对高新技术产业协同发展的影响,2024年7月...

最新发布

海报

举报

扫码阅读