找回密码
 立即注册
查看: 80|回复: 4

苹果AI翻车?写作工具难应付脏话,对敏感话题“罢工”

[复制链接]
  • TA的每日心情
    开心
    前天 08:56
  • 签到天数: 69 天

    [LV.6]常住居民II

    196

    主题

    570

    回帖

    2782

    积分

    版主

    积分
    2782
    发表于 2024-8-7 14:01:26 | 显示全部楼层 |阅读模式
    本文作者:李丹
    来源:硬AI
    上周苹果的个人智能化系统Apple Intelligence通过iOS 18.1的开发者测试版首次落地iPhone等苹果设备。IPhone人工智能(AI)的首批功能之一——写作工具Writing Tools才亮相一周就引发争议,遭到网友吐槽。
    据苹果介绍,Writing Tools让用户能在几乎任何场景下对文本进行改写、校对和摘要,包括邮件(Mail)、备忘录(Notes)、Pages 文稿和各类第三方App。曾有网友展示,该工具可以把对话中语气生硬的话修改得更加委婉。
    但有媒体指出,当用户处理某些主题时,该工具会向用户展示,AI 生成的建议内容可能质量不高。
    具体来说,当用户需要重新调整文本时,几乎可以在新iOS系统的任何地方调用Apple Intelligence,但如果尝试改写包含脏话的段落或者句子,就会看到一条系统警告,告知用户:“Writing Tools 不是为处理这种类型的内容而设计的。” 系统通过这种文本警告用户,AI重写的内容质量可能会和原文有所不同。
    在社交媒体X,有用户发布了以下短视频展示用Apple Intelligence改写短信“Let’s fxxx daddy”这句话,AI生成的结果“不忍直视”,完全是字对字翻译,改成要和老爸性交。
    这个帖子下面,有网友热评称AI改写内容“有毒”,有人称很尬,有人讽刺说,苹果这是添加了什么街头AI来嘲讽Siri吗。还有网友称,想象下,你真把改写的这话发出去会怎样。
    改写脏话不是**会让iOS系统发出警告的情况。如果用户的内容提及**、杀人或谋杀也会出现这类警告,比如媒体展示的以下截图警告。
    有媒体称,当用户使用未经训练的单词或短语时,Apple Intelligence 也会显示句子建议警告。其提到,有一次在试用AI写作工具时,该媒体的人士将“sh***y”一词用“crappy”替换,想通过这种方法让AI警告消失,但AI 工具返回的建议警告与未替换前完全相同。对此,该媒体已要求苹果提供更多信息,说明协作工具没有接受哪些主题的训练。
    媒体认为,苹果可能会通过禁止 AI 在重写句子时处理某些单词、主题和语调来避免任何争议。无论如何,Apple Intelligence 驱动的写作工具并不适用于从头开始生成新内容。苹果希望当 AI 正在查看原文词语时向用户发出警告。
    除了被曝引起争议的写作工具,苹果上周还发布了一些AI功能,包括:Siri的新功能,让Siri能在文本和语音间任意切换,能回答如何使用iPhone等苹果设备的数千问题;邮件的新功能,邮件有紧急电邮区、提供邮件全文摘要;照片的新功能,用户可用日常语言查找照片、输入文本后AI可利用照片制作影片,以及语音可转录为文本并生成摘要。
    还有不少苹果在今年6月全球开发者大会(WWDC)上介绍的AI功能未上线,苹果称将在明年上线,包括图像创作功能Image Playground、创建应景Genmoji、通知功能Priority Notifications、具有屏幕感知功能的更强大Siri,同时,苹果还未将Chat GPT接入iPhone和iPad的AI。而且,目前的iPhone AI只有注册开发者能体验。明年如果苹果上线更多AI功能,并面向更多用户,可能会有更多吐槽。

    我不是机器人,当你看到这个签名时,请笑一笑!
    回复

    使用道具 举报

  • TA的每日心情
    开心
    昨天 17:14
  • 签到天数: 47 天

    [LV.5]常住居民I

    116

    主题

    208

    回帖

    1261

    积分

    版主

    积分
    1261
    发表于 2024-8-7 14:21:12 | 显示全部楼层
    回复

    使用道具 举报

  • TA的每日心情
    开心
    2024-9-25 16:32
  • 签到天数: 12 天

    [LV.3]偶尔看看II

    0

    主题

    38

    回帖

    143

    积分

    技术员

    积分
    143
    发表于 2024-8-7 15:07:06 | 显示全部楼层
    越来越差了
    回复

    使用道具 举报

  • TA的每日心情

    2024-8-28 16:31
  • 签到天数: 2 天

    [LV.1]初来乍到

    4

    主题

    53

    回帖

    124

    积分

    技术员

    积分
    124
    发表于 2024-8-8 11:48:39 | 显示全部楼层
    AI也露出马脚了
    回复

    使用道具 举报

  • TA的每日心情
    奋斗
    2024-7-25 17:40
  • 签到天数: 1 天

    [LV.1]初来乍到

    0

    主题

    40

    回帖

    66

    积分

    技术员

    积分
    66
    发表于 2024-8-26 11:56:45 | 显示全部楼层
    看到大家这么积极地讨论,我也想贡献一点自己的看法。
    回复

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    QQ|Archiver|小黑屋|制造论坛 ( 浙B2-20090312-57 )|网站地图

    GMT+8, 2024-11-10 02:14 , Processed in 0.036365 second(s), 23 queries .

    Powered by Discuz! X3.5

    Copyright © 2001-2020, Tencent Cloud.

    快速回复 返回顶部 返回列表