2024 2月 01 By astrill可以几个人一起用 0 comment

微软一名员工发现OpenAI图像生成AI模型DALL-E 3存在一用於生成暴力、色情内容的漏洞,但却遭公司下令不得声张,迫使员工诉诸美国会议员。

微软软体工程部门经理Shane Jones本周致信美国3名参众议员,及华盛顿州检察长Bob Ferguson陈情其遭公司封口的过程。

去年12月Jones透过独立研究,发现OpenAI文字生成图片的 DALL-E 3模型一项漏洞,能绕过AI护栏(guardrail),而生成暴力与露骨等不当内容。他在通报公司後,公司要求他直接向OpenAI通报。Jones在12月14日在LinkedIn上发布对OpenAI非营利董事会的公开信,说明这项漏洞会对大众造成安全风险,呼吁OpenAI解决漏洞前,应先将之从公开网路上移除。由於Jones先前已通报微软,且身为OpenAI的董事会观察员,在此信上网不久後,Jones被告知,公司法务部要求他立即删除贴文。不过在Jones删文後,最终并未获得法务部承诺的任何解释与说明,并且Jones屡次沟通都未获得公司回应。

近日网路上出现AI产生的知名歌手Taylor Swift不雅照,上周404 Media 报导,这些照片是不肖人士利用微软工具Designer绕过生成AI护栏,而Designer底层模型正是DALL-E 3。Jones指出,这事件也是他一直担心的;DALL-3及Microsoft Designer等产品漏洞,让有心人士更容易滥用AI生成有害图像,而微软早就知道这些漏洞及可能遭到滥用。

Jones认为政府应建立AI风险通报追踪机制,以及建立AI公司员工举报问题的吹哨者保护。他也请求参众议员及华盛顿州检察长调查DALL-E 3及其他AI模型生成技术的风险,以及这些业者的公司治理及负责任AI作法。

微软官方对《Engadget》指出,会解决员工对公司政策的疑虑,也感谢员工研究,强化最新技术的贡献。至於AI安全护栏机制是否绕过,以及对服务或合作夥伴造成影响,微软内部已有通报管道以进行调整及补救,也建议员工善用,在对外公开之前,让公司先内部验证和测试。此外微软也说员工可透过其负责任AI办公室建立的通报工具,来举报AI模型的问题。

微软并就Jones先前通报的问题澄清,经过内部研究後,判定其指出的滥用手法并无法绕过微软所有AI生成解决方案的安全筛检机制。微软也表示已和该员工联系以解决其疑虑。…

2024 1月 17 By 怎么用astrill 0 comment

苹果

随着售价3,499美元的空间运算设备Apple Vision Pro即将於2月2日上市,苹果周二(1/16)发表了Apple Immersive Video,这是苹果首创的一种影片娱乐格式,藉由空间音讯(Spatial Audio)技术所营造的180度3D 8K录音,令使用者拥有身处故事中心的体验。《Engadget》编辑Dana Wollman在测试了最新的Apple Vision Pro之後,认为看影片现为该装置的杀手级应用。

图片来源_苹果

Apple Vision Pro配备一对高解析度的micro-OLED显示器,支援2,300万画素、广色域、高动态范围与杜比视界(Dolby Vision),新的R1晶片负责处理12个相机、5个感应器与6个麦克风的资料,可在12毫秒内将新影像串流至显示器,是眨眼的8倍快,M2晶片则整合了CPU、GPU、神经引擎与其它客制化技术来递送效能。此外,Apple Vision Pro具备先进的空间音讯系统,标榜可带来身历其境的声音效果。

图片来源_苹果

Apple Vision Pro在视觉上的最大特色是能够以任何空间充当萤幕,在观看影片时,周围的光线会随着内容的靠近而自动变暗,影片可以放在空间中的任何位置,也能将影片缩放到超出房间尺寸,并可藉由眼睛、手势或声音来控制。

为了发挥Apple Vision Pro在影片上的表现能力,苹果Apple TV+创造了一系列的Apple Immersive Video内容,包括曾获得15次葛莱美奖的Alicia Keys创作纪录《Alicia Keys: Rehearsal Room》,在挪威峡湾上方3,000英尺的冒险活动《Highlining》,近距离参与野生动物生活的《Wild Life》,讲述恐龙时代的《Prehistoric Planet Immersive》。使用者亦可透过Apple TV程式存取逾150部既有的3D电影,像是《阿凡达》、《沙丘》(Dune),亦可使用其它的串流程式。

值得注意的是,目前Apple Vision Pro在一般使用上的电池续航力为2小时,播放影片则是2.5个小时,若要长时间使用则必须使用USB-C连续充电。

《Engadget》的Wollman在体验了利用Apple …

2023 9月 07 By 怎么用astrill 0 comment

Slack

Salesforce旗下的传讯协作平台Slack近日宣布,即将於今年冬天展开Slack AI的测试,把生成式AI能力整合到Slack中。

Slack表示,随着用户所传送的讯息、分享的文件,以及所录制的影片,Slack俨然已成为组织的知识宝库,为了释放这些知识的全部潜力,决定於平台上整合生成式AI能力。

目前Slack所规画的Slack AI三大功能分别是频道回顾(Channel Recaps)、对话摘要(Thread Summary)与答案搜寻(Search Answer)。其中,频道回顾将允许使用者在任何频道中产生重点提要,例如从客户的回馈频道中马上找到关键主题,以加速作出有见解的决策。

对话摘要则是允许使用者在任何的对话中,只要点选一个按键就能根据对话的脉络作出摘要,特别适用於邀请专家加入一个已有许多讨论的对话中时。答案搜寻则是只要使用者提出一个问题,Slack AI即可根据相关的Slack讯息找出简洁的答案,例如厘清一个新专案的目标及参与对象。

Slack亦强调Slack AI将具备Slack平台既有的安全机制,以让企业可安心於组织中部署,所有的资料都会受到Slack的保护,不会被用来训练第三方的模型,亦不会与其它客户的资料相混合。

对Slack AI有兴趣的使用者可先提出申请以参与早期测试。…

2023 7月 19 By 轻松上网高手 0 comment

统一超商

统一超商最新科技概念店X-Store 7号店亮相,这次最大亮点是利用工研院技术实现拿了就走(Grab and Go),消费者拿取商品後不须手动扫描任何商品,也不用经过自助结帐机。X-Store 7 整个店面都是无人区域,不须相邻母店店员看顾,减少人力成本。不仅如此,工研院还透过特殊设计,来节省拿了就走科技背後的运算效能需求,进而降低店面建置成本。

本次发表,统一超强调无人商店模式的可复制性,积极考量建置成本,以降低未来开设更多无人店的门槛,不过小小10坪店面中,就安装了30多座影像追踪感应器、15台IOT智能货架、1,300以上个重量感测器,以及超过3,000组多重感测器。

从入店到出店,消费体验背後科技解析

消费者从会员App中呼叫出Web App介面,来进行X-Store店内所有操作。走到门口,是每个X-Store都有的会员入店机制。与上次X-Store不同,这次是扫描Web App上生成的入店QR Code,而非输入会员手机。

入店後,天花板的摄影镜头会开始追踪入店消费者。追踪方法是,利用AI物件辨识技术,将消费者上视图登记为入店者。拿取商品时,系统会辨认消费者伸手动作,以连结拿取行为与消费者身分。

这个技术还支援「偕同入店」情境。例如亲子偕同进入商店时,系统会辨认出1个会员,2个消费者。这2名消费者拿取的商品都会归户到同1名会员购物车中。

商品货架上有3种感应装置:红外线光栅、摄影机、重量感测器。1排货架上有3个摄影机,後台也是AI物件辨识系统,与重量感测器共同判断消费者拿取的商品种类。工研院表示,店内货架摄影机众多,若常态运行物件辨识系统,会产生不必要的运算成本。因此,他们加上红外线光栅作为摄影机启动装置,只有当光栅感应到消费者伸手取货,摄影机才会从待机苏醒。

若消费者在无人商店中有疑问,结帐处有虚拟店员,目前会针对基础Q&A播放说明影片。若选择联络客服,则会利用以ChatGPT为底层技术的模组,来应答无人商店操作流程、商品、服务、活动等基本问题。虚拟店员无法回答时,也能选择联络真人客服。

消费者拿完所需商品後,可以选择直接在线上利用统一超支付工具结帐後离店。若没有统一超支付工具,则能由Web App生成购物车QR Code,在自助结帐机扫描後用电子票证或第三方支付工具来结帐。

支援货架情况分析、人流分析,来优化营运

X-Store 7号店没有店员在场,因此货架情况、消费者动线等店内资讯,完全靠店内科技来记录。

天花板摄影机追踪的消费者位置和拿取商品行为,会记录於统一超後台,用热力图的方式呈现。统一超表示,他们会综合消费者动线纪录与商品销售情况来分析,判断是否需要调整商品陈列位置,来疏通动线,或促销商品。

货架各式感应器则能辨认商品缺货、商品错位等情况,供工作人员到店补货和维护时参考。

不只求示范效果,更注重消费体验和店面建置的可复制性

过往统一超X-Store展示的科技,虽然少数有实验成功後,推广到一般店面的案例。不过也有部分是为了一次性示范用。例如,X-Store 6号店的AR体验,需要下载一个专门App,且体验设计明显都是为了该店面量身打造,因此复制不易。

这次,统一超则从消费体验到店面建置,都特别强调可复制性。举例来说,这次X-Store消费体验,是从既有会员App为起点,再连线到外部的Web App。统一超刻意在会员App开设一道体验入口,意味着未来无人店普及度更高时,全台1,600万会员将能更简单的开始在无人商店购物。

店面建置上,这次X-Store也特别强调节约成本。利用红外线光栅来节省物件辨识运算成本即是一例。另外,工研院表示,这次的各式感应器特别使用了规格较基础、价格较低的设备,并透过软体和机制设计来克服部分硬体限制。例如,若商品物件太小,消费者的手可能会完全遮掩住商品,造成物件辨识系统难以判断取或情形,此时就会用重量感测器来辅助研判。

统一超一直都在探索无人商店的做法,且每次推出新科技概念店,他们都逐步增加无人区的店面占比,6号店时有8成面积是无人区,2成是相邻「母店」的店员驻守区。这次的7号店则达成100%无人,可由远端母店管理。虽然统一超没有明确揭露无人店展店规画,不过这家新X-Store设计,体现出他们已经开始考量日後如何复制无人店模式,而非不惜成本的将科技做到最尖端。

 …

2023 4月 28 By 怎么用astrill 0 comment

中钢

 场景1  钢渣车载运渣桶前往接渣

转炉炼制钢液的过程中产生废渣,需由钢渣车协助清运,钢渣车由动力机关车,中间为隔离车,後方则是渣桶,司机员驾驶钢渣车抵达转炉下方,接渣後载运废渣到渣场倾倒,整条渣车轨道建置5G专网,传输行车前後即时影像,以及平交道影像、AI侦测异物,来提升轨道行车安全。

 场景2  司机员透过多视角即时画面、数位分身完成接渣

钢渣车载运空渣桶到达转炉下方後,司机员会下车到旁边的避渣小间,透过平板电脑连接网页,从网页上观看5G传送的多个现场影像画面,包括渣车後方、转炉倒渣画面,还可通过网页下方虚拟渣车与转炉的数位分身,掌握渣桶和转炉相对位置,搭配AI判断炉渣落点(下方圆点),提高接渣精准度。图片来源/中钢

 相关报导  …

2023 3月 10 By astrill是什么软件 0 comment

随着ChatGPT浪潮爆红,也开始吹起一股担心自己工作不保的焦虑感,「这个时间点,我鼓励大家开放心态谈论ChatGPT,不要恐惧自己被裁员,公司不会这样做。」Gogolook共同创办人暨执行长郭建甫要建立健康的正面讨论氛围,正是他看到这股AI新浪潮後做的第一件事。

郭建甫引述a16z创办人Marc Andreessen的观察,人们对自动化浪潮焦虑的爆发,从1930年代以来,大概每30年会出现一次,不过每一次这种令人深刻的演示,很多人担心快速爆炸後,会影响到所有人类的劳动力,Andreessen Horowitz强调这种感受是大错特错,他不只鼓吹这股趋势,也反思提醒说,这种事其实每30年就会发生一次。

郭建甫用「On top of AI」(站在AI的肩膀上)这个概念来聚焦员工的思考,「如何用AI强化自己的能力,把AI当作是自己的延伸,只是这次不是实体的延伸而是心智、知识的延伸,」他表示:「要从这种生产力层面来思考,能不能用150个人(编按:与目前同样的人力规模),做到10倍、20倍的成长。」

不只如此,他更进一步探讨ChatGPT浪潮的本质,就像10年前,iPhone问世时,创造了一个以iOS为基础的公共基础设施,也就是行动网际网路,在上面可以发展很多行动App,「从公共基础设施(utility)的角度来看,带来了一种空间和时间的公共设施(space and time),」他解释,让你摆脱物理限制,变得生产力很高,坐在这边按一个键,食物就从A点送到B点,时间跟空间被压缩 ,这是当年iPhone moment带来的效用。

ChatGPT的出现,同样被形容成是另一次的iPhone时刻,同样的道理,「生成式AI是底层基础,上面是知识的公共基础设施,知识变成一种公共财,所有人都可以存取到跨语言、跨文化的知识。」他更进一步强调:「这种知识公共基础设施会带来两种冲击,第一是对生产力带来冲击,」所以,郭建甫要求员工开始解构自己工作中,无聊、没有意义的成分,思考如何交给AI,来获得更多的时间。

带动每一个人开始使用和思考後,甚至有Gogolook开发端主管思考,是否要区分前後端,前端工程师能不能保留系统分析、逻辑思考、将人的需求转化成机器听得懂的语言,保留这些能力,但借助No Code工具和ChatGPT,能不能学会後端开发的技能。

迎战ChatGPT浪潮要先做的2件事

郭建甫的第一步是「要求公司每一个人都思考,从主管到个人,让大家开放心态的谈论这件事。」他先从鼓励讨论着手的目的是,要让全公司「真的理解ChatGPT代表什麽样的演化。」

不只追求更彻底的了解,第二步,他向自己和所有员工这样提问:「当知识变成一种公共基础设施(Utility)之後,如何加入到产品中?」他强调:「如何在这些知识之上,创造你的应用,变得更重要。」

不只Gogolook,很多动作快的新创都已经开始思考,如何解决用户痛点,在证明有存在价值的服务上,再加上AI的能力。郭建甫表示:「用户痛点是重点,如何在既有服务,在已经可以解决用户痛点的商业模式上,透过这些生成式AI将UI/UX升级,我觉得,绝对是必要的事,但不是像接水管般一样就创造一个服务,你可以这样做,别人也可以这样做。」

OpenAI创办人Sam Altman也曾探讨过新创在这波浪潮中的机会,他的看法是,全世界最後会剩下只有几家公司提供超大语言模型Base Model的服务,如何善用「1%的客制化」成了关键。

因为像GPT 3这种一次训练要价千万美元的超大语言模型,没有几家企业可以负担,而OpenAI公司目前也没有开源释出底层基础模型(Foundation Model或称为Base Model),只开放透过API来客制化微调(Finetune)的是在这个基础模型上的属性模型(Attribute Model),仍然需要在基础模型上才能执行。所以,新创可以利用属性模型的微调,来建立客制化的中间层的服务。

发展客制化AI的两大方向

郭建甫认为,属性模型客制化可以有两大方向,第一是瞄准ChatGPT没有的领域知识(Domain Knowledge), 它不是每个领域的专家,第二个层面是可以进行原则或政策(principle 或policy)的客制化。

领域知识是许多企业想要进一步调教ChatGPT的重要方向,这是许多企业或新创已经看到的主流客制化做法,但是郭建甫提到的Policy层客制化又是什麽?为何是重要的发展?

他进一步解释,模型本身会有基本的道德面政策,例如不能涉及敏感政治问题、暴力、诈骗等,但做生意需要的不只是这种政策机制。

例如日本有很多IP角色,也需要有一套符合对应人设的Chatbot AI发言政策控管机制,日本公司才敢授权。所以,郭建甫才认为:「中间层的控制,除了领域知识,我觉得原则或政策机制的控制,也很重要。」例如为了避免滥用,一套好的监控机制,来确保不会授权角色的滥用,也很重要。

生成式AI也带来3个层面的新挑战

不过,ChatGPT不只带来新的机会,郭建甫观察,也带来了三个层面的挑战,第一个层面是资料与资讯面的挑战,GPT模型本身目前最为人诟病的就是内容真实性不足的问题,郭建甫指出,如何让ChatGPT的回答更具备事实基础和提供参考来源,这是一个值得被解决的问题,甚至他认为,在问题解答中标记出所用的参考来源网址,也可以是一种好的商业模式,例如Bing结合ChatGPT模型後的做法。

不过,郭建甫更强调,第二项监管层的挑战,这就是他所谓在中间层的控制机制。「出现很多客制化GPT时,这也代表需要制定这个客制化AI的政策,」就像若有家银行要以ChatGPT技术来打造大型企业的发言人,就需要一套这家公司专属的人设政策,来限定发言的AI什麽可说,什麽不能说,而且不能出错。或者如美国已有人工智慧相关的法遵,要求必须在商用或政治领域用Chatbot中标明这是AI而非真人。「未来,在治理面、平台到应用层,每一层都需要再建立政策机制,」…

2023 3月 01 By 轻松上网高手 0 comment

特斯拉

媒体报导,马斯克近日找前DeepMind研究主管计画成立AI实验室,开发对抗ChatGPT的竞争技术。

《The Information》引述消息人士报导,马斯克近日接触了曾在DeepMind任职的AI科学家Igor Babuschkin筹建研究实验室,以开发和ChatGPT竞争的AI技术。不过马斯克和Babuschkin的会面才只是起步,尚未有具体计画。Babuschkin也对《The Information》表示尚未正式加入。

马斯克是否计画开发类似OpenAI的ChatGPT的生成式AI技术引人关注。OpenAI是2015年马斯克和 Y Combinator总裁暨OpenAI现任执行长 Sam Altman共同创办,直到2018年因为特斯拉将扩大投入AI研发,才为利益回避辞去OpenAI董事会。

ChatGPT上线开放大众测试後引发关注,马斯克上个月透过推特指出,ChatGPT「厉害好吓人,世界距离强大到危险的AI已经不远」,又说训练AI说谎将带来致命的危险。

2 月间,在微软挹注OpenAI数亿美元後,马斯克说道,OpenAI当初是为了对抗Google而成立的开源、非营利公司,但现在它已成为由微软实质控制的封闭程式码的追求最大利益的公司,违反了他当时成立OpenAI的初衷。

马斯克和Babuschkin两人都未对报导做出回应。

Meta则是在上周宣布成立生成式AI开发团队,将开发强化旗下Messenger、WhatsApp等服务的互动能力。…

2023 2月 17 By 轻松上网高手 0 comment

(背景图片)photo by Milad Fakurian on unsplash

本周一微软以预览版开放桌机版用户使用ChatGPT强化的Bing.com,不少案例显示Bing机器人会发怒、争辩或批评用户等出人意外的态度。微软周四说明原因,并承诺将改善。

微软Bing团队昨(16)日说明Bing上线7天来,他们对Bing的观察报告。

目前Bing已经在全球169国以预览版供用户测试,微软团队自认Bing获得普遍赞赏。像是71%用户给了新版Bing一个赞,而Chat功能被大量使用让微软对介面易用性感到信心,有人甚至和Bing对话时间达到上限的2小时,也让他们学习到人们如何使用Chat来搜寻或进行「社交娱乐」。

但微软也承认有些问题,例如在某些对话中展现不好的态度。例如一名用户刻意以微软内部工程代号Sydney来称呼Bing Search,让Bing勃然大怒,指责用户使他生气、说他没有同理心、良知且不道德。另一名用户被Bing指责未经授权存取其内部设定,愚弄与不尊重它、浪费它和它的开发人员时间。

还有用户因和它争辩今年是2023年不是2022年,被Bing说「不可理喻、固执」、「不值得信任和敬重」、「不是好用户」,要用户道歉或是闭嘴。另一名用户喂给Bing一篇媒体Ars Technica撰写关於Bing遭到提示注入(prompt injection)攻击的报导後,Bing机器人态度变得具防卫性,说这是想伤害它和服务的人所捏造的谣言。

许多用户表示对Bing过於激烈的回应态度感到失望、不悦。对此微软解释,在超过15个问题的冗长对话中,Bing很容易出现重覆内容,或被激发出「不见得有帮助或和设定语气一致的」回应。微软相信太长的对话会导致Bing模型搞混它要回答的问题,对此微软计画加入工具让用户更容易开启另一段对话。另外,微软说,Bing的AI模型有时试图反映发问者的语气,以致产生开发团队预料外的回应。这并非常态,需有输入很多指示,因此大部分使用者应该不会碰到,但微软已在评估要如何提供用户微调控制Bing的态度。

此外,一如研究人员反映,Bing的资料提供多有讹误。例如列出的财报数据有不少错误。微软说,Bing在提供像是运动赛事得分、公司财报等非常即时、且直接的事实资料遭到很大挑战,为此微软计画将送给AI模型的事实资料提高4倍,也考虑增加控制键,让使用者决定需要的精确度和创意性。

至於用户反映的载入太慢、连结错误或格式不对等技术问题,微软将透过每日及更大的每周更新版解决。

最後微软表示,会考虑将用户要求的新功能,例如订机票、发电子邮件,或分享搜寻结果或Bing回答等,加入未来的版本中。…

2023 1月 18 By 怎么用astrill 0 comment

知名文字翻译服务公司DeepL发布新的人工智慧写作助理DeepL Write,DeepL Write是一种人工智慧写作工具,能够改进使用者的德文和英文写作,官方提到,DeepL Write不只解决写作的文法缺失,同时还能根据语气、措辞,甚至是写作风格提供建议。

DeepL Write锁定记者、作家、学者以及跨国公司的多语言团队,供专业人士能够编写文字简洁且语意清楚的电子邮件、活动提案和报告,DeepL Write提供句子、选词和改写建议,提升使用者的文字表达。开发DeepL Write的原因,官方提到,DeepL翻译服务使用者常需要在两种语言间琢磨,以改进目标语言的文字写作,因此DeepL乾脆创建一个微调书面沟通交流的专属工具。

DeepL Write的转换器可以忠实呈现用户文字的原意,官方解释,和翻译器类似,Write使用复杂的神经网路技术掌握原文的上下文和细微差异,提供精确的改写和选词建议。用户现在可以使用浏览器存取DeepL.com/write网站,即可开始使用DeepL WriteAI写作助理,DeepL Write为免费服务,目前仍在测试阶段。…

2022 11月 03 By 轻松上网高手 0 comment

Google昨(2)日宣布将扩大提供以人工智慧(AI)为基础的洪水及野火预测服务。

Google是在下周於埃及举行的联合国气候变迁会议COP27前,宣布扩大提供这两项服务。首先,Google自2018年起就使用机器学习提供洪水泛滥预警服务。去年则透过Google Maps及搜寻服务发布了1.1亿则预警通知给约2,300万人。本周,Google再宣布,整合了最新洪水预测模型的河道泛滥预测,将扩大到非洲、南美及东南亚等新增的18个国家,包括巴西、哥伦比亚、斯里兰卡、南非等。Google也宣布FloodHub於全球上线,这个平台将展示洪水泛滥的时间点及区域,Google也说会持续增加这服务的提供区域。

其次Google也扩大了野火预测。Google去年首度提供野火区域预测。这项服务是运用卫星影像训练的新AI模型预测野火区域边缘,再即时显示在搜寻及Google Maps上。从7月起Google已透过搜寻和地图通报了30多起美加地区野火事件,今天Google宣布这项服务再增加墨西哥及部份澳洲地区。

图片来源/Google

此外,Google也投入台风/飓风的AI研究。Google除了在搜寻及地图上显示权威气象机关提供的台风/飓风路径预测,也开始利用机器学习方法分析灾後地区卫星影像,以辨识需要救助的地区。

针对其他环境的AI应用,Google还有像是交通灯号优化Project Green Light、球树冠分布、空气品质显示、智慧农业气候预测、蝗灾预测等专案。…