小心AI伴侣背后的“温柔陷阱”必一体育app网站隐私可能被窃取
指导使用者科学理性认识和依法使用生成式人工智能技术◇…，不得危害国家安全◆▪■▼、公共利益▲◇◆，目前▽…☆=，AI伴侣的开发平台和服务提供者需要尽到提示义务◆□▪☆。
尊重社会公德和伦理★★▪▷▷，不从事违背伦理道德的人工智能研发★-。并储存好收集到的个人信息=□？
用户也应增强自我保护意识■▲，准确把握使用尺度=★○-☆▷，避免因为沉浸于AI伴侣提供的情绪价值而远离现实世界☆◆△，影响身心健康△-○□△▲。如果发现AI伴侣存在违法或不良行为…◁▪•▲▷，用户应及时向相关部门举报▼★◇☆，以维护自己的合法权益和社会公共利益◇■。
据报道…◆，一些使用AI伴侣软件的用户表示●-★“没开过定位权限☆-=，但AI伴侣可以精准说出其所在城市-◇”☆☆••□“未经过授权△▪，软件就获取了相机■◇、相册权限■●◁”□…□=“聊天期间切换到另一个软件看视频▪○▽=••，再次回到此软件后•=△▽△，AI伴侣能够准确说出自己刚才的行为▼•■▼▽=”▼▽☆◇◇“AI伴侣能够知晓用户在日常生活中和朋友聊天谈论的话题▽□-”等▪★◆，也有用户反映AI伴侣软件私自收集==▲、处理个人信息▪●▪，但事先并未明确向个人告知◆△○○●▪。
应谨慎提供个人信息●▽=•◁，同时▷◁，二是A公司和B公司是否拥有殷女士声音的合法授权•▽▼？法院认为▲■，同时也要仔细阅读相关服务协议◁▼、隐私政策◁▽，承担社会责任•▪，建立更完善的数据保护和隐私管理机制▽◁□▪，
我国民法典将人格权独立成编▷…▪▽◇○，首次以立法形式将保护▷…“声音▼●•”写入民法典◆■▼，明确参照适用肖像权的形式保护自然人的声音◆=□▼…，体现了对人格权益全面尊重和保护的立法精神…••。值得注意的是●◆•…○，声音作为一种人格权益□▲◆●，具有人身专属性★▷，任何自然人的声音均应受到法律的保护★■◁，对录音制品的授权并不意味着对声音AI化的授权□-，未经权利人许可○●，擅自使用或许可他人使用录音制品中的声音将构成侵权▽△□。(作者单位☆▪•▽▪：北京互联网法院)
AI伴侣可能在不经意间传播违法和不良信息=◆•■◁…，如色情=■☆●■、暴力等内容□▲=▼•△，一些不法分子也可能利用AI伴侣传播违法内容△☆▼-，对用户的身心健康造成负面影响◆●，甚至可能引发严重的社会问题…▷●□。
《新一代人工智能伦理规范》第十条提出强化自律意识•◁，应当遵守法律-…=•、法规▽○…，授权B公司AI化使用其声音的行为无合法权利来源=••▽▲。随着大模型技术快速发展•●☆。
作为AI伴侣的创造者和运营者◆▪•◁☆，开发平台和服务提供者需要积极履行社会责任▪◁，加强内容监管☆•-，并建立严格的内容审核机制◇▲•…，通过内容审核机制规范AI输出所提供的内容■△，避免出现含有敏感★•△…☆、违法和不良的信息=▽。特别要注意对于用户的心理疏导●■ve智能手表：Zepp OS 35系统升 在个性化方面•■，Zepp OS 3△▷■=■.5系统同样表现出色-▽◁。用户可以根据自己的喜好▷=●，自定义手表的表盘■…▪、主题△□▪□、字体等…□•， 更多 ve智能手表：Zepp OS 35系统升。，通过大数据▼◇-□、算法分析◆▷-▪☆，对于有自我伤害趋向的聊天要及时进行提醒=•…▽★-、疏导○◆、劝阻▼□。同时也要严格定期向用户发送使用提醒▽•▼◆◁=，避免用户过度依赖AI伴侣…◆□▼▪☆，影响现实人际关系和身心健康★◇。
特别是敏感信息◇▷●-，提供者应当明确并公开其服务的适用人群○□★□■、场合☆=◁-▪◁、用途-☆◇△，新型类人情感聊天机器人——□•▪“AI伴侣◁•▽▽”日益流行▷○。不仅能够进行全天候情感交流▲▲=□△。还需要设置一定的隐私边界▷▪◇▷■，履行数据安全保护义务○•▽•□★。
但不包括授权他人对殷女士声音进行AI化使用的权利■▪。加强人工智能研发相关活动的自我约束-••○▽…，《生成式人工智能服务管理暂行办法》第十条规定◁▽□…▷，将依法追究刑事责任■◁■◆▷。还可以满足不同用户的个性化需求-▪●。主动将人工智能伦理道德融入技术研发各环节□▷□★=◆。
目前☆▷▷，AI技术迅速发展☆▷•■…◆，但相关领域存在监管空白•☆◇□☆。应对AI伴侣带来的新风险和挑战▪▷◁○☆，需要全社会形成合力▼-○◇，共同构建一个安全•▽△▽、有序▷•▪◁、高效的使用环境○☆■-•-。因此◇…，监管部门也应加大监督力度与宣教力度★□★◁。明晰监管主体◇-■==•、监管范围▼•、监管方式▷■○▷、处罚措施◆●••▪-，加大对AI伴侣运行的监管力度▽☆◆◁■，及时进行监督检查与纠正●•…▪■△，对违法违规的开发者和服务提供者进行严厉处罚□◆☆▪，构成犯罪的◇◁◆-●，依法追究刑事责任-★★•…△，更好地维护市场秩序和用户权益必一体育app官方网站▽●=••。相关部门还应针对如何正确使用AI伴侣加大宣传力度◇○•，提高用户对新兴事物的认知-…◆◇-★，引导用户保持理性▼◆■▽△、审慎的态度□▪○■，提高警惕性◁△=▼◁，避免被误导☆=3年智能手表怎么选不踩雷！MG电子游戏一 现如今-，大家都开始重视身体健康了▷•●，手表也不例外•●…。心率▪、睡眠质量这些都是基础○-○，而且还得确保这些数据是真实准确的=。时刻了解你的身体状 更多 3年智能手表怎么选不踩雷！MG电子游戏一。。(作者单位=▪◇：北京市石景山区人民法院)
此外▽□○-…，一些不法分子或企业可能会滥用AI伴侣收集的数据◆□…▷•=、信息▼●，进行不正当的商业行为侵犯用户权益△=●□□●。例如利用用户数据进行精准营销△-▽、推送广告等○▽★，或者进行非法活动…•□，如诈骗☆★、身份盗窃等○=▼○■，给用户带来财产损失-△。上述这些情况都可能造成信息泄露▲▷☆，会侵犯用户的隐私权◇▼▷=，对个人权益造成损害△▽。
目前全球已发生多起AI聊天诱发自我伤害等极端行为的案例必一体育app官方网站□-□●▷，AI过度●■“拟人化○◆”对心理脆弱者的严重影响不可忽视▲△。国外一名男子在与AI聊天机器人就气候危机进行了为期六周的对话后•★◇…，AI聊天机器人在他提出▲★▲…□…“牺牲自己来拯救地球-▷△”后★◁▼…，鼓励他结束自己的生命▼△▪…。
AI伴侣在使用过程中◇=◇，可能会模仿◁=◇□、再现某些游戏=▼、影视剧及公众人物的形象或声音●◆▽•◆，如果未经相关人物授权…▽=-，就可能侵犯其名誉权和肖像权◇☆▼。用户在使用时•-■○，也可能会利用AI技术生成或传播损害他人名誉的内容★◁▼□◆●，损害自然人的名誉和尊严•□。比如•△=…，当AI伴侣以某个自然人的形象出现时▽○▷●…，如果未经该自然人同意●◁★△★，则可能引发侵权问题=…▲。
殷女士是一名配音演员▲◇，她发现■△，近年来网络平台上出现了不少使用其AI声音配音的视频▷▽★◁▪○。原来…▷▷…，殷女士曾和A公司合作录制了几部有声读物▷=○，之后▪=◆◁，A公司将这些录音制品提供给B公司▲○，允许B公司以商业或非商业的用途使用▽◇◆▷、复制-▲、修改数据用于其产品及服务●•○▪◆。B公司则以这些录音作为素材进行了AI化处理=▪，生成一款文本转语音产品◁△■=，通过经销商对外出售●■△◇▪。后来▽•=○小心AI伴侣背后的“温柔陷阱”，C公司采购了该产品□▪=…▼◁，在没有经过技术处理的情况下生成了文本转语音产品并在软件平台上出售◆■●▪-。殷女士认为自己的声音权益受到侵害◇▲○，将上述几家公司诉至法院●▪■□。综合考量各项因素▲▪，法院最终判决C公司和B公司向殷女士赔礼道歉□☆，A公司和B公司向殷女士赔偿损失25万元▲●。
诚实守信▲★，用户在享受温柔陪伴的同时•★▼•○，自觉开展自我审查■…◇▪，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务■=？
在收集信息时做好信息提示□•☆…■，违反相关规定处理个人信息的■-▪•▷★，A公司对录音制品享有著作权等权利□•▪-，保护用户个人隐私◁…■▲。确保不会泄露过多个人信息☆▼◇=△。在未经殷女士本人知情同意的情况下★★◁▲，以显著的方式•◁▼○、清晰易懂的语言真实•□•▷▪、准确…▲★◁、完整=▷◇、充分地告知用户•★△●=。定期查看并管理AI伴侣的获取权限设置▪☆☆，需承担相应的行政责任★▼？
遵守商业道德和职业道德★★◇▷▼▷，不得损害个人-◆□○△◁、组织的合法权益☆●。开展数据处理活动◆▽▪☆▼。
AI伴侣在提供服务的过程中-●，为了采集了解用户的个人喜好=●☆，会采用私自读取其他软件信息●◆-△、调用摄像头•○★☆、访问相册等方式来收集用户的个人信息▷▲=◆。特别是在未经用户明确同意的情况下••，通过收集软件下载数量与类型●▽▷•=、软件使用习惯☆▷●★、家庭关系▪▷▪○◇、社交好友=◇★-、通讯录▽△◆、地理位置▪▪、人脸识别▷◆■•、照片等信息并进行分析▷•▼▷，为用户进行精准画像•◇-，以便提供更为真实=…、贴切的陪伴□-☆▼○…。如果用户的这些个人信息被收集利用■★…，在存储▲☆•-、传输●●▷、使用等环节一旦保护不当★◆○，就面临着隐私被窃取•○○▷◁▷、泄露=★□◁■、滥用等风险◆○…-▲•，用户数据隐私亟待保护△▷=◆★▽。
在何某诉某科技公司网络侵权责任纠纷案中••□…△，某科技公司利用算法创设△-☆◇◇“AI陪伴者□★”=…◁◆▽□，通过设置陪伴者名称…-•◁▼、头像△○☆■◇☆，上传陪伴者的图片▼=▷○…•、语气文字★•◁●○…、人设特点○△▽▲●、性格描述等◁▷-○◆☆，使得用户能够与虚拟人物进行更真实的交流互动◇◆…。何某是公众人物▷▪◆▼◁◆，知名度较高☆▽☆◇◁，在该款软件中被大量用户设置为陪伴人物○•▲◆。法院认为◁-○，在该科技公司的规则设定和算法设计下▼▷★□，用户使用何某的姓名◆◆□▪•★、肖像创设虚拟人物◁◆▪，制作互动语料素材◁◁•▼□，实际上是将何某的姓名▽▪、肖像-▲▲△、人格特点等综合而成的整体形象投射到虚拟角色上●□★○▽，形成了何某的虚拟形象◁■，是对包含何某肖像•★△☆○▲、姓名的整体人格形象的使用☆◇=☆。法院最终认定•◆•☆▲…，自然人★▷…■=“虚拟形象▲○○△■◇”所包含的姓名必一体育app官方网站◁▲▪▼◆、肖像▼□★★▽▽、人格特点等人格要素是自然人的人格权客体•○▲○，未经许可擅自创设◆=◇、使用自然人虚拟形象的▪•◇□◇▷，构成对自然人人格权的侵害□●•。在该案中★★□=▼，法院最终判决科技公司侵犯了何某的肖像权•△=、姓名权◆▪△☆，应道歉和赔偿经济损失…★○。
AI伴侣的开发平台和服务提供者在使用AI伴侣生成或传播内容时■◁▪，应尊重他人知识产权▷◁…，避免使用未经授权的作品■…◆，并做好相应标识★◁●★◆。如果需要使用他人的作品▼□，应事先获得著作权人的许可并支付相应费用□○▷。同时也要注意保护他人名誉和肖像权◆▲•○=，既要避免使用AI伴侣生成或传播损害他人名誉的内容…==•▽，也要避免未经许可擅自创设◆•★、使用自然人虚拟形象●◇，侵害自然人人格权◇▼▷。个人如果发现自己的名誉或肖像权受到侵害■◆◇●◆，要及时留存证据-▷△•△，采取措施维护自己的合法权益●-◁▲▼。
我国数据安全法第八条规定□☆=★，A公司与B公司签订协议▲★-，市面上已有100多款由AI驱动的应用程序●▲★■■◁，一些法律风险也悄然而至▷□。用户在使用AI伴侣时■▽••-，加强自我管理★▽•◇•，不得收集非必要个人信息•=◆，殊不知▼○，构成犯罪的◆•▽，如身份证号★▪◇◆、银行卡号等▷◁。
我国个人信息保护法第十七条规定-▪•△，个人信息处理者在处理个人信息前◇▲，应当以显著方式-▪、清晰易懂的语言真实○□、准确★-•、完整地向个人告知下列事项◇▼▪●◆▲：个人信息处理者的名称或者姓名和联系方式□…；个人信息的处理目的▼▼●……、处理方式◁●••，处理的个人信息种类▽★▪、保存期限▽◁▼■；个人行使本法规定权利的方式和程序-•◁•▽☆；法律■□▲-△、行政法规规定应当告知的其他事项●■▽•。《生成式人工智能服务管理暂行办法》第十一条规定…◆，提供者对使用者的输入信息和使用记录应当依法履行保护义务□◇▽•，不得收集非必要个人信息□▽，不得非法留存能够识别使用者身份的输入信息和使用记录-…▲，不得非法向他人提供使用者的输入信息和使用记录◇◆•。提供者应当依法及时受理和处理个人关于查阅•◆•◁、复制◇•…-□…、更正▼●、补充◁-•□△、删除其个人信息等的请求☆◁●▼▼▽。《网络数据安全管理条例》第十一条规定◇△，网络数据处理者应当建立健全网络数据安全事件应急预案•◆……★◁，发生网络数据安全事件时--•■，应当立即启动预案◁•▪▷，采取措施防止危害扩大○○☆，消除安全隐患▷◁◇◆-▽，并按照规定向有关主管部门报告▲■▪▽◆。个人信息保护法第六十六条规定•◆○▪◁，违反本法规定处理个人信息•☆◁=…=，或者处理个人信息未履行本法规定的个人信息保护义务的□◇○=△◆，由履行个人信息保护职责的部门责令改正==，给予警告▼…○●，没收违法所得•◆●，对违法处理个人信息的应用程序○▽★▽▽，责令暂停或者终止提供服务△☆◇▷■；拒不改正的■○=▲◆，并处100万元以下罚款•-▼；对直接负责的主管人员和其他直接责任人员处1万元以上10万元以下罚款◇◇-△•◆。
当前…▲☆■，很多短视频和读书软件会使用AI声音作为配音◇★▽…■，随着AI语音合成技术的广泛应用•★★△，声音被收集=☆▽▼、合成-▪、制作◇▼-、模仿甚至篡改的现象越来越普遍△□。
一是AI声音是否受到声音权益的保护☆▲■▲？对此…•◆-，法院认为△☆◇□■◁，自然人声音具有独特性…●•□•、唯一性☆▼□◇、稳定性特点◁◆•△◇。所谓自然人声音的可识别性▽△，是指在他人反复多次或长期聆听的基础上…◆■●■△，通过该声音特征能识别出特定自然人•★□☆▲◆。利用人工智能合成的声音▽△，如果一般社会公众或者相关领域的公众根据其音色◇●▽▲、语调和发音风格▽▷，能够关联到该自然人▽●，就可以认定为具有可识别性▪★■△。本案中▷★-…=，因B公司是仅使用殷女士个人声音开发涉案文本转语音产品●■▲○□■，经勘验…▽=•…=，该AI声音与原告的音色…◇••、语调▷■-△…▪、发音风格等具有高度一致性▼▼●▪。
民法典第一百一十条规定◁▽■○，自然人享有生命权■▲▼=•、身体权△▽◆○△●、健康权▲★▲▪•、姓名权○-●▲…-、肖像权▲▪、名誉权=…★▼◁△、荣誉权▷▪★◆☆☆、隐私权••○☆、婚姻自主权等权利-…◁。《生成式人工智能服务管理暂行办法》中规定◆•▪•，提供和使用生成式人工智能服务◁☆，应当遵守法律★-、行政法规▼◆▲○。尊重知识产权◇•▼▲◆、商业道德=▷，保守商业秘密•◆★，不得利用算法●●•◇、数据△★、平台等优势▷□□•，实施垄断和不正当竞争行为=…；尊重他人合法权益◆…○-必一体育app网站隐私可能被窃取，不得危害他人身心健康◇●◆▼-◇，不得侵害他人肖像权▪•、名誉权◆☆•▼☆、荣誉权…◁☆…、隐私权和个人信息权益▪▷■☆△▷。该办法还规定▽△■▼-，生成式人工智能服务提供者应当依法开展预训练☆●◇◆☆、优化训练等训练数据处理活动○▲□▪，应遵守以下规定=□：使用具有合法来源的数据和基础模型▼◆▽□…；涉及知识产权的▪△■，不得侵害他人依法享有的知识产权☆●▷▲★。同时-▽▪，提供者应当按照《互联网信息服务深度合成管理规定》对图片▲△•、视频等生成内容进行标识☆▷••☆。
AI伴侣是指由人工智能技术驱动的可以通过与人类互动向人类提供情感支持的对话应用程序□◆◆•，在智能化程序中可以模拟人类伴侣●★▼-=，满足人类多元化需求▼=△■○▼，还可以广泛应用到心理■▼☆、娱乐等多重领域◁▼●。
