下载网站比特派app下载|人工智能chatgpt
下载网站比特派app下载|人工智能chatgpt
ChatGPT
ChatGPT
CloseSearch Submit Skip to main contentSite NavigationResearchOverviewIndexGPT-4DALL·E 3SoraAPIOverviewPricingDocsChatGPTOverviewTeamEnterprisePricingTry ChatGPTSafetyCompanyAboutBlogCareersResidencyCharterSecurityCustomer storiesSearch Navigation quick links Log inTry ChatGPTMenu Mobile Navigation CloseSite NavigationResearchOverviewIndexGPT-4DALL·E 3SoraAPIOverviewPricingDocsChatGPTOverviewTeamEnterprisePricingTry ChatGPTSafetyCompanyAboutBlogCareersResidencyCharterSecurityCustomer stories Quick Links Log inTry ChatGPTSearch Submit OverviewOverviewTeamEnterprisePricingTry ChatGPTOverviewTeamEnterprisePricingTry ChatGPTChatGPTGet instant answers, find creative inspiration, learn something new.Quick linksDownload on the App Store BadgeTry on webAsk me anythingTeach me to negotiateQuiz me on vocabularyPlan a surf trip to Costa RicaDraft a thank-you noteExplain this codeHelp me train for a half marathonTranslate this recipe into GreekRank dog breeds for a small apartmentHelp me plan a fun dinner partyDraft a social media content calendarExplain why popcorn popsPlan an itinerary for teens in Hong KongDesign a database schemaRecommend an easy potluck dishHelp me build a budgetCritique my short storyFind gentle lower back stretchesMake this recipe vegetarianExplain options trading like I'm 5Help me pick a halloween costumeWrite a polite rejection emailGenerate fantasy football team namesExplain airplane turbulenceWrite a spreadsheet formulaBrainstorm domain namesExplain nostalgia to a kindergartenerHelp brainstorm interview questionsSummarize my meeting notesWrite a Python scriptPlan a college tourSuggest rainy day activitiesWrite a SQL QueryHelp me with gift ideas for my dadDraft an email for a repair quoteTroubleshoot my printer set-up Write a thank-you noteHelp me debug this codeCreate a mobility training workoutBrainstorm podcast episode ideasReview my argument for a debateSuggest photo shoot locationsTeach me Mahjong for beginnersDraft a checklist for a dog-sitterHelp me improve this job descriptionRank e-bikes for daily commutingChatGPT can see, hear, and speakChat with imagesYou can now show ChatGPT images and start a chat. Troubleshoot why your grill won’t start, explore the contents of your fridge to plan a meal, or analyze a complex graph for work-related data.Learn moreCreate new imagesCreate images simply by describing them in ChatGPT. Invent new logos, comic strips, and photorealistic scenes right in the chat. You can bring your ideas to life with our most capable image model, DALL·E 3.Learn moreChat with voiceYou can now use voice to engage in a back-and-forth conversation with ChatGPT. Speak with it on the go, request a bedtime story for your family, or settle a dinner table debate.Learn morePlansFree$0 / monthTry on webFree plan featuresAccess to GPT-3.5Regular model updatesAccess on web, iOS, AndroidPlus$20 / monthGet startedPlus plan featuresAccess to GPT-4 (our most capable model)Chat with images, voice and create imagesUse and build custom GPTsand includes everything in FreeDo more with GPTsYou can choose from hundreds of GPTs that are customized for a single purpose—Creative Writing, Marathon Training, Trip Planning or Math Tutoring. Building a GPT doesn’t require any code, so you can create one for almost anything with simple instructions. Do more with GPTs linksLearn moreGame TimeI can quickly explain board or card games to players of any age. Let the games begin!The NegotiatorI’ll help you advocate for yourself and get better outcomes.Creative Writing CoachI’m eager to read your work and give you feedback to improve your skills.Tech Support AdvisorFrom setting up a printer to troubleshooting a device, I’m here to help you step by step.Laundry BuddyAsk me anything about stains, settings, sorting, and everything laundry.Sous ChefI’ll give you recipes based on the foods you love and ingredients you have.Sticker WhizI’ll help turn your wildest dreams into die-cut stickers, shipped right to your door.Math MentorI help parents help their kids in math. Need a refresher on geometry proofs? I’m here.ResearchOverviewIndexGPT-4DALL·E 3SoraAPIOverviewPricingDocsChatGPTOverviewTeamEnterprisePricingTry ChatGPTCompanyAboutBlogCareersCharterSecurityCustomer storiesSafetyOpenAI © 2015 – 2024Terms & policiesPrivacy policyBrand guidelinesSocialTwitterYouTubeGitHubSoundCloudLinkedInBack to top
ChatGPT_百度百科
GPT_百度百科 网页新闻贴吧知道网盘图片视频地图文库资讯采购百科百度首页登录注册进入词条全站搜索帮助首页秒懂百科特色百科知识专题加入百科百科团队权威合作下载百科APP个人中心ChatGPT播报讨论上传视频OpenAI发布的聊天机器人模型收藏查看我的收藏0有用+10ChatGPT(全名:Chat Generative Pre-trained Transformer),是OpenAI [1]研发的一款聊天机器人程序 [12],于2022年11月30日发布 [2-3]。ChatGPT是人工智能技术驱动的自然语言处理工具,它能够基于在预训练阶段所见的模式和统计规律,来生成回答,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流,甚至能完成撰写论文 [21]、邮件、脚本、文案、翻译、代码等任务。 [2]2023年4月10日,中国支付清算协会倡议支付行业从业人员谨用ChatGPT。 [42]2023年4月12日,此前临时禁止使用ChatGPT的意大利开出了解禁的条件,但13日,西班牙国家数据保护局和法国国家信息自由委员会分别宣布对ChatGPT展开调查。同日,欧洲数据保护委员会宣布成立专门工作组,以促进各国协同调查,并就各数据保护部可能采取的执法措施交流信息 [45]。2023年7月,OpenAI发布公告称给ChatGPT加了一个名为Custom instructions的新功能:在系统层面给聊天机器人定制化一些指令,令机器人更具有个性化特色的同时,更好地贴近使用者的需求。 [70]当地时间7月25日,OpenAI宣布,安卓版ChatGPT已正式上线。 [73]2023年11月,OpenAI前总裁兼董事长Greg Brockman宣布,所有用户均可使用其语音功能ChatGPT Voice。 [83]最新新闻ChatGPT“被查”7分钟前北京时间3月8日上午10时35分,OpenAI官方发布消息称:ChatGPT当前遇到错误率升高的问题,公司正在开展调查。这并非OpenAI首次发布类似消息。2023年11月,OpenAI官方发布一则声明,表示ChatGPT的错误率似乎有所上升,正在展开调查。该消息当时在人工智能领域引起广泛关注和讨论。...详情内容来自软件名称ChatGPT上线时间2022年12月 [34]最近更新时间2023年3月14日 [33]软件语言英文、中文、德文、法文、日文等开发商OpenAI软件版本GPT-4 [33]别 名聊天生成预训练转换器 [16]目录1发展历程▪技术逻辑▪核心竞争力▪技术局限性▪相关股票▪新增功能2社会应用3社会影响4规范使用5所获荣誉6相关争议▪禁令与限制▪数据泄露▪官方回应▪诽谤诉讼▪谨慎使用▪展开调查▪使用推特数据▪威胁版权▪编造虚假信息案件▪程序漏洞▪起诉事件▪恋爱骗局▪错误率升高▪撰写维基百科文章▪被欧盟监管▪重大勒索病毒案件发展历程播报编辑ChatGPT是美国人工智能研究实验室OpenAI新推出的一种人工智能技术驱动的自然语言处理工具,使用了Transformer神经网络架构,也是GPT-3.5架构,这是一种用于处理序列数据的模型,拥有语言理解和文本生成能力,尤其是它会通过连接大量的语料库来训练模型,这些语料库包含了真实世界中的对话,使得ChatGPT具备上知天文下知地理,还能根据聊天的上下文进行互动的能力,做到与真正人类几乎无异的聊天场景进行交流。ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。 [2]在OpenAI的官网上,ChatGPT被描述为优化对话的语言模型,是GPT-3.5架构的主力模型。ChatGPT具有同类产品具备的一些特性,例如对话能力,能够在同一个会话期间内回答上下文相关的后续问题。然而,其在短时间内引爆全球的原因在于,在网友们晒出的截图中,ChatGPT不仅能流畅地与用户对话,甚至能写诗、撰文、编码。ChatGPT还采用了注重道德水平的训练方式,按照预先设计的道德准则,对不怀好意的提问和请求“说不”。一旦发现用户给出的文字提示里面含有恶意,包括但不限于暴力、歧视、犯罪等意图,都会拒绝提供有效答案。 [1]2022年11月底,人工智能对话聊天机器人ChatGPT推出,迅速在社交媒体上走红,短短5天,注册用户数就超过100万。 [9]2023年一月末,ChatGPT的月活用户已突破1亿,成为史上增长最快的消费者应用。 [14]2023年2月2日,美国人工智能(AI)公司OpenAI发布ChatGPT试点订阅计划——ChatGPT Plus。ChatGPT Plus将以每月20美元的价格提供,订阅者可获得比免费版本更稳定、更快的服务,及尝试新功能和优化的优先权。 [7]2023年2月2日,微软官方公告表示:旗下所有产品将全线整合ChatGPT,除此前宣布的搜索引擎必应、Office外,微软还将在云计算平台Azure中整合ChatGPT,Azure的OpenAI服务将允许开发者访问AI模型。 [9]2023年2月3日消息,IT行业的领导者们担心,大名鼎鼎的人工智能聊天机器人ChatGPT,已经被黑客们用于策划网络攻击时使用。 [8]黑莓(Black Berry)的一份报告调查了英国500名IT行业决策者对ChatGPT这项革命性技术的看法,发现超过四分之三(76%)的人认为,外国已经在针对其他国家的网络战争中使用ChatGPT。近一半(48%)的人认为,2023年,将会出现有人恶意使用ChatGPT而造成“成功”的网络攻击。 [8]当地时间2023年2月2日,ChatGPT的开发公司——美国人工智能公司OpenAI顺势推出了这一应用程序的付费订阅版本。 [11]2023年2月7日,微软宣布推出由ChatGPT支持的最新版本人工智能搜索引擎Bing(必应)和Edge浏览器。微软CEO表示,“搜索引擎迎来了新时代”。 [18]8日凌晨,在华盛顿雷德蒙德举行的新闻发布会上,微软宣布将OpenAI传闻已久的GPT-4模型集成到Bing及Edge浏览器中。 [17]2023年2月16日消息,微软在旗下必应搜索引擎和Edge浏览器中整合人工智能聊天机器人功能的举措成效初显,71%的测试者认可人工智能优化后的必应搜索结果。 [23]2023年2月16日,百炼智能潜客宝团队在进行了市场调研之后,决定集成以“内容生成和智能互动”见长的ChatGPT,正式上线智能营销助理。 [26]2023年2月27日消息,Snapchat正在推出一个基于OpenAI的ChatGPT最新版本的聊天机器人。 [24]这款名为“My AI”的机器人将被固定在应用界面的聊天选项卡上,虽然最初仅适用于每月3.99美元的SnapchatPlus付费订阅用户,但最终目标是让Snapchat的7.5亿月活跃用户都可以使用该机器人 [25]2023年3月15日,OpenAI正式推出GPT-4。GPT-4是多模态大模型,即支持图像和文本输入以及文本输出,拥有强大的识图能力,文字输入限制提升到了2.5万字。GPT-4的特点在于,第一,它的训练数量更大;第二,支持多元的输出输入形式;第三,在专业领域的学习能力更强。 [28]2023年3月,谷歌宣布,ChatGPT——Bard正式开启测试。 [30]2023年3月24日,OpenAI宣布ChatGPT支持第三方插件,解除了其无法联网的限制。 [31]2023年4月,ChatGPT已停止Plus付费,OpenAI给出的理由是需求量太大 [40]。2023年4月23日消息,ChatGPT聊天机器人可以根据用户的输入生成各种各样的文本,包括代码。但是,加拿大魁北克大学的四位研究人员发现,ChatGPT生成的代码往往存在严重的安全问题,而且它不会主动提醒用户这些问题,只有在用户询问时才会承认自己的错误。 [49]2023年5月16日,《放射学》出版,加拿大科学家在杂志上刊登新论文称,最新版本的ChatGPT通过了美国放射学委员会的考试,突出了大型语言模型的潜力,但它也给出了一些错误答案,表明人们仍需对其提供的答案进行核查。 [52]当地时间2023年5月18日,OpenAI官网宣布推出iOS版ChatGPT应用,该应用可免费使用,并在不同设备间同步用户的历史记录。该应用还集成了OpenAI开源语音识别系统Whisper,支持语音输入。此外,ChatGPT Plus付费订阅用户可以独家使用GPT-4功能。 [53]同日,在上架不到12小时后,ChatGPT应用冲到了App Store美国免费APP排行第二的位置。 [54]截至5月23日,该应用美国市场下载量达55万次。 [61]2023年5月24日消息,微软正全面与ChatGPT对接。 [58]2023年5月25日,OpenAI表示,ChatGPT的APP已在阿尔巴尼亚、克罗地亚、法国、德国、爱尔兰、牙买加、韩国、新西兰、尼加拉瓜、尼日利亚和英国等国家和地区的App Store上线。 [59]2023年6月1日消息,HumanLoop的创始人Raza Habib表示,OpenAI计划在2023年内对GPT-4进行升级,使其变得更便宜、更快速,并能够支持输入更多的文字。此外,OpenAI还将会在2024年GPU算力瓶颈突破之后向更多用户公开多模态功能。 [62]2023年6月10-11日,2023全球人工智能技术大会(GAITC 2023)在杭州举办,专家学者在大会上对ChatGPT开展深度探讨。 [64]2023年7月5日,据路透社报道,分析公司相似网站称,2022年11月推出的爆款人工智能聊天机器人ChatGPT的网站月度访问量和独立访客在2023年6月首次下降。 [68]2023年7月,OpenAI宣布推出定制指令功能,以便客户更好地控制ChatGPT的回应方式。 [69]2023年7月,OpenAI发布公告称给ChatGPT加了一个名为Custom instructions的新功能。 [70]2023年7月22日,OpenAI宣布,下周将发布ChatGPT安卓APP,即日起可以在谷歌商店预约下载。 [71-72]当地时间2023年7月25日,OpenAI宣布,安卓版ChatGPT已正式上线,美国、印度、孟加拉国和巴西四国的安卓用户已经可进行下载,并计划拓展到更多地区。 [73]当地时间2023年9月25日,OpenAI官网宣布推出新版ChatGPT,增加了语音输入和图像输入两项新功能。 [79]当地时间2023年11月6日,OpenAI在官网宣布推出自定义版本ChatGPT。 [81]2023年11月,OpenAI前总裁兼董事长Greg Brockman宣布,所有用户均可使用其语音功能ChatGPT Voice。 [83]2024年2月14日,聊天机器人ChatGPT的开发公司OpenAI宣布,该公司正在测试一种选项,用户可以命令ChatGPT从某次交流到下一次交流的具体信息。ChatGPT能够自动确定应该记住与用户对话中的哪些信息。 [95]技术逻辑结合ChatGPT的底层技术逻辑,有媒体曾列出了中短期内ChatGPT的潜在产业化方向:归纳性的文字类工作、代码开发相关工作、图像生成领域、智能客服类工作。 [5]核心竞争力ChatGPT受到关注的重要原因是引入新技术RLHF(Reinforcement Learning with Human Feedback,即基于人类反馈的强化学习)。RLHF解决了生成模型的一个核心问题,即如何让人工智能模型的产出和人类的常识、认知、需求、价值观保持一致。ChatGPT是AIGC(AI-Generated Content,人工智能生成内容)技术进展的成果。该模型能够促进利用人工智能进行内容创作、提升内容生产效率与丰富度。 [6]技术局限性ChatGPT的使用上还有局限性,模型仍有优化空间。ChatGPT模型的能力上限是由奖励模型决定,该模型需要巨量的语料来拟合真实世界,对标注员的工作量以及综合素质要求较高。ChatGPT可能会出现创造不存在的知识,或者主观猜测提问者的意图等问题,模型的优化将是一个持续的过程。若AI技术迭代不及预期,NLP模型优化受限,则相关产业发展进度会受到影响。此外,ChatGPT盈利模式尚处于探索阶段,后续商业化落地进展有待观察。 [6]太平洋夏季时间2023年8月31日22点11分,OpenAI更新事故报告称,ChatGPT未付费用户遇到的问题已得到解决。该公司35分钟前报告称,ChatGPT服务严重降级,许多未付费用户遭遇该问题,其已查明问题所在,正在努力修复。 [78] 相关股票2023年3月22日,ChatGPT概念午后持续走强,截至14:03,该概念上涨4.78%,相关个股方面,开普云上涨15.32%,工业富联上涨10%,中文在线上涨9.09%,昆仑万维、吉宏股份等个股跟涨。 [29]新增功能2024年3月5日,ChatGPT 推出了名为“朗读”(Read Aloud) 的新功能。该功能可以让 ChatGPT 用五种不同的声音朗读其回复,旨在为用户提供更加便捷的交互体验。“朗读”功能已上线 ChatGPT 的网页端、iOS 和安卓应用。 [97]社会应用播报编辑一项调查显示,截止2023年1月,美国89%的大学生都是用ChatGPT做作业。 [4]2023年1月,巴黎政治大学(Sciences Po)宣布,该校已向所有学生和教师发送电子邮件,要求禁止使用ChatGPT等一切基于AI的工具,旨在防止学术欺诈和剽窃。 [3]ChatGPT的应用场景还包括:用来开发聊天机器人,也可以编写和调试计算机程序,还可以进行文学、媒体相关领域的创作,包括创作音乐、电视剧、童话故事、诗歌和歌词等。在某些测试情境下,ChatGPT在教育、考试、回答测试问题方面的表现甚至优于普通人类测试者。 [6]2023年2月4日消息,以色列总统艾萨克·赫尔佐格(Isaac Herzog)周三发表了部分由人工智能(AI)撰写的演讲,成为首位公开使用ChatGPT的世界领导人。 [10]2023年2月7日消息,Take-Two Interactive的首席执行官斯特劳斯·泽尔尼克(Strauss Zelnick)表示:ChatGPT是“一个非常激动人心的新工具时代”的一部分,可以“让团队和竞争对手的团队更有效地做真正有趣的事情”,但这项技术不会彻底改变电子游戏行业。 [13]2023年2月8日,微软宣布推出由ChatGPT支持的最新版本搜索引擎必应。 [15]2023年3月11日,三星DS部门开始允许员工使用ChatGPT,但在不到20天的时间里就发生了三起机密信息泄漏事件,其中2起与半导体设备有关,另外1起与会议内容有关。 [38]2023年4月21日消息,ChatGPT将帮助日本更新用于填写补贴和公共援助申请的在线手册。 [60]2023年4月21日消息,根据里奇蒙德联储和佛罗里达大学两项研究,OpenAI的ChatGPT成功识别联邦储备委员会声明的含义,并根据新闻内容提供投资建议,并且其倡导将LLMs纳入投资决策中,这检验了他们情感分数预测力的预测性能力。 [60]2023年5月24日,据《香港经济日报》报道,在ChatGPT及AI技术加持下,微软Build 2023开发者大会上,宣布必应搜索纳入OpenAI的ChatGPT。 [57]2023年6月5日消息,日本全国地方政府中率先在工作时尝试采用人工智能聊天软件“ChatGPT”的神奈川县横须贺市公布验证结果称,开始利用的4月以后制作文案等工作效率有所提升。从当天起转为正式利用。 [63]2023年7月27日消息,微软将向日本政府提供ChatGPT技术,用于文书工作和分析,包括起草回应议会质询的草案。为了处理机密信息,微软最近在东京和大阪的数据中心安装了用于生成式人工智能的高处理能力设备,这也是该技术首次在亚洲部署。 [74]据智度股份官微2023年8月11日消息,全球首款ChatGPT音箱,将由VIFA于8月17日全球首发。 [76]当地时间2023年8月28日,OpenAI在官网宣布推出企业版ChatGPT,将提供企业级安全和隐私保护、无限高速的GPT-4访问、处理更长输入的上下文窗口、高级数据分析能力、定制选项等等。据该公司介绍,自ChatGPT推出九个月以来,超过80%的财富500强公司团队已采用该产品。 [77]2023年11月7日,在首届OpenAI开发者大会上,OpenAI宣布允许用户构建自定义版ChatGPT完成特定的个人和专业任务。用户能快速创建自己专用版本的ChatGPT,可以用于帮助教孩子数学或解释棋盘游戏的规则。 [82]2023年12月14日消息,新闻出版巨头施普林格出版集团(Axel Springer)与ChatGPT开发机构OpenAI宣布达成一项史无前例的协议,允许ChatGPT对来自Politico和Business Insider等媒体的新闻文章进行总结摘要。 [89]社会影响播报编辑截至2023年2月,这款新一代对话式人工智能便在全球范围狂揽1亿名用户,并成功从科技界破圈,成为历史上增长最快的消费者应用程序 [22] [32]。规范使用播报编辑2023年2月,媒体报道,欧盟负责内部市场的委员蒂埃里·布雷东日前就“聊天生成预训练转换器”发表评论说,这类人工智能技术可能为商业和民生带来巨大的机遇,但同时也伴随着风险,因此欧盟正在考虑设立规章制度,以规范其使用,确保向用户提供高质量、有价值的信息和数据。 [12]2023年3月,全国人大代表、科大讯飞董事长刘庆峰提出:类ChatGPT可能是人工智能最大技术跃迁,应当加快推进中国认知智能大模型建设,在自主可控平台上让行业尽快享受AI红利,让每个人都有AI助手。 [27]2023年6月,据香港《南华早报》报道,香港教育局已将人工智能技术和ChatGPT聊天机器人纳入学校课程。 [65]所获荣誉播报编辑2023年12月,当选《自然》杂志年度科学人物。 [88]2023年12月,入选2023全球十大工程成就。 [90]2023年12月,”ChatGPT”当选“汉语盘点2023”活动年度国际词。 [91]2024年1月,“ChatGPT”进高校入选2023年中国大学改革十大主题词。 [94]相关争议播报编辑禁令与限制多家学术期刊发表声明,完全禁止或严格限制使用ChatGPT等人工智能机器人撰写学术论文。 [20]当地时间2023年3月31日,意大利个人数据保护局宣布,从即日起禁止使用聊天机器人ChatGPT,并限制开发这一平台的OpenAI公司处理意大利用户信息。同时个人数据保护局开始立案调查。 [35]一方面,个人数据保护局认为,3月20日ChatGPT平台出现了用户对话数据和付款服务支付信息丢失的情况。而该平台却并没有就收集处理用户信息进行告知,且缺乏大量收集和存储个人信息的法律依据。另一方面,该机构还指责,尽管根据OpenAI的条款声称该服务面对13岁以上的用户,但他们并没有使用任何过滤机制来验证用户的年龄。 [37]当日晚些时候,OpenAI表示已在意大利将ChatGPT下线。 [36]2023年5月,三星电子发现员工将敏感的代码上传到ChatGPT后,宣布禁止使用此类生成式人工智能工具,该技术在工作场所的广泛应用遭遇阻碍。 [50]2023年5月,据美媒报道,苹果已限制在公司内使用ChatGPT和其他外部AI工具。 [55]据共同社6月22日报道,知情人士22日透露,日本文部科学省计划实施新的指导方针,指示小学、初中和高中禁止学生在考试中使用聊天生成预训练转换器(ChatGPT)等生成式人工智能(AI)软件。 [66]数据泄露2023年4月4日,综合多家媒体报道,自3月11日韩国三星电子允许部分半导体业务部门员工使用ChatGPT开始,在20天内便爆出了三起机密资料外泄事件。三起机密资料外泄案件中,其中两起与半导体设备有关,另一起与内部会议有关。 [39]IT之家2023年12月5日消息,谷歌DeepMind研究人员上周发现,反复要求OpenAI的ChatGPT重复某个单词可能会无意中泄露其训练数据中的私人个人信息。而现在这款聊天机器人似乎已经开始拒绝重复某个单词,而之前根据其服务条款这是被允许的。 [86]官方回应使用ChatGPT完成作业和写论文是不道德和不健康的学习方式。学生们需要学会自主思考,理解知识并自己动手完成作业。使用ChatGPT完成作业只能短暂地帮助学生获得分数,但不能提高他们的学习能力和知识水平。 [19]对于意大利个人数据保护局暂时禁止使用ChatGPT一事,OpenAI回应称:其工作是“为了在训练ChatGPT等人工智能系统时减少个人数据,因为我们希望人工智能了解世界,而不是了解个人。”该公司表示愿与意大利个人数据保护局密切合作。 [36]诽谤诉讼2023年4月,据路透社报道,澳大利亚墨尔本西部赫本郡的市长布莱恩•胡德指控OpenAI旗下的ChatGPT对其进行诽谤,或将对该公司提起诉讼,因为该聊天机器人在回答问题时错误地声称他在一桩贿赂丑闻中有罪。一旦正式提起,这将是全球首例针对生成式AI的诽谤诉讼。 [41]谨慎使用2023年4月10日,中国支付清算协会表示,近期,ChatGPT等工具引起各方广泛关注,已有部分企业员工使用ChatGPT等工具开展工作。但是,此类智能化工具已暴露出跨境数据泄露等风险。为有效应对风险、保护客户隐私、维护数据安全,提升支付清算行业的数据安全管理水平,根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》等法律规定,中国支付清算协会向行业发出倡议,倡议支付行业从业人员谨慎使用ChatGPT。 [42]2023年3月27日,日本上智大学在其官网上发布了关于“ChatGPT和其他AI聊天机器人”的评分政策。该政策规定,未经导师许可,不允许在任何作业中使用ChatGPT和其他AI聊天机器人生成的文本、程序源代码、计算结果等。如果发现使用了这些工具,将会采取严厉措施。 [43]2023年4月3日,东京大学在其内部网站上发布了一份题为“关于生成式人工智能”的文件,文件指出,“报告必须由学生自己创造,不能完全借助人工智能来创造”。 [43]2023年4月7日,京都大学的入学仪式上,该大学校长凑长博表示,“人工智能生成的论文有很多问题,写作需要耗费大量精力,但它会加强你的心态和思考能力。” [43]日本东北大学在其官方网站上发布了一份关于使用生成式人工智能的通知,并敦促教师们重新思考如何布置作业和如何进行考试。例如,它建议“在布置练习和报告之前检查人工智能将如何回答”,以及“改用要求学生在课堂上写作的考试形式”。 [43]展开调查2023年4月消息,法国国家信息与自由委员会(CNIL)接到有关OpenAI公司旗下聊天机器人ChatGPT的数份投诉,投诉认为ChatGPT违反《欧盟个人信息保护条例》(RGPD),涉嫌侵犯用户隐私、捏造不实信息。该委员会正在就接到的ChatGPT相关投诉展开调查。 [44]2023年4月13日,欧盟中央数据监管机构欧洲数据保护委员会(EDPB)表示,正在成立一个特别工作组,帮助欧盟各国应对广受欢迎的人工智能聊天机器人ChatGPT,促进欧盟各国之间的合作,并就数据保护机构可能采取的执法行动交换信息。 [46]使用推特数据2023年4月,埃隆·马斯克在推特表示,称ChatGPT使用推特数据训练。 [47]威胁版权北京时间2023年4月20日消息,代表14万多名作家和表演者的42家德国协会和工会周三敦促欧盟强化人工智能(AI)规则草案,因为ChatGPT对他们的版权构成了威胁。 [48]编造虚假信息案件2023年5月,据甘肃公安官微消息,平凉市公安局网安大队侦破一起利用AI人工智能技术炮制虚假不实信息的案件。这也是自1月10日《互联网信息服务深度合成管理规定》颁布实施后,甘肃省侦办的首例案件。 [51]程序漏洞2023年3月23日消息,ChatGPT出现严重技术漏洞,用户在社交媒体上表示看到了其他人的历史搜索记录标题。ChatGPT之父Sam Altman在访谈中表示,人工智能(AI)技术将重塑社会,他认为AI会带来危险。 [56]起诉事件2023年,两位美国作家对ChatGPT母公司OpenAI提起诉讼,声称OpenAI在没有获得版权授权的情况下,就利用他们的作品来训练其人工智能。 [67]2023年6月28日,第一起具有代表性的ChatGPT版权侵权之诉,终于出现在了公众视野。两名作家在美国加州北区法院,对Open AI公司发起了版权集体诉讼,指控后者未经授权利用自身享有版权的图书训练ChatGPT,谋取商业利益。 [75]当地时间2023年12月20日,包括泰勒·布兰奇和史戴西·希夫在内的11名美国作家在纽约曼哈顿联邦法院起诉美国人工智能公司“开放人工智能研究中心”(OpenAI)和微软,指控其滥用他们的作品来训练聊天机器人ChatGPT。 [92]2023年12月,纽约时报公司起诉微软和OpenAI,指控它们利用该公司内容帮助开发人工智能(AI)服务,这一事件反映出媒体与一项可能颠覆新闻行业的技术之间的关系正变得日益紧张 [93]。恋爱骗局2023年10月,安全软件Avast在官方博客上公开了其最新的发现:一种“恋爱骗局”。据介绍,不法分子会利用 ChatGPT来创建虚假的约会、交友资料,它甚至可以绕过相关App的安全措施,并能完成点赞、回复潜在对象、创建“可信的”个人资料:从热情洋溢的诗人到阳光开朗的旅游爱好者都不在话下。 [80]错误率升高太平洋标准时间2023年11月23日上午6时31分,OpenAI更新运行情况说明称,ChatGPT的错误率升高,正在开展调查。 [84]北京时间2024年3月8日上午10时35分(太平洋标准时间3月7日18时35分),OpenAI官方发布消息称:ChatGPT当前遇到错误率升高的问题,公司正在开展调查。 [98]撰写维基百科文章IT之家2023年11月27日消息,维基百科创始人吉米・威尔士(Jimmy Wales)认为,OpenAI开发的人工智能聊天机器人ChatGPT在写维基百科文章方面是一团糟。 [85]被欧盟监管财联社2023年12月7日电,欧盟接近达成一项里程碑式法案,对ChatGPT和其他人工智能技术进行监管。 [87]重大勒索病毒案件2023年12月消息,杭州上城区网警成功侦破一起重大勒索病毒案件。据了解,犯罪团伙成员均具备网络安防相关资质,并在实施犯罪过程中利用ChatGPT优化木马程序。2023年11月20日,某公司报案称其服务器遭勒索病毒攻击,导致系统无法正常运行,还被要求支付2万美元(约14.3万元人民币)赎金。 [96]警方成立技术攻坚团队进行侦查并锁定2名犯罪嫌疑人。2023年11月30日,在内蒙古自治区呼和浩特市抓获韩某和祁某,次日在北京抓获同案犯罪嫌疑人李某和郝某。该团伙的4名犯罪嫌疑人均有网络安防相关资质,并且都曾在大型网络科技公司工作过。 [96]据犯罪嫌疑人供述,“他们分工编写勒索病毒版本”,“借助ChatGPT进行程序优化”,“开展漏洞扫描”,“渗透获取权限”,“植入勒索病毒”等犯罪事实已经全部被证实。 [96]新手上路成长任务编辑入门编辑规则本人编辑我有疑问内容质疑在线客服官方贴吧意见反馈投诉建议举报不良信息未通过词条申诉投诉侵权信息封禁查询与解封©2024 Baidu 使用百度前必读 | 百科协议 | 隐私政策 | 百度百科合作平台 | 京ICP证030173号 京公网安备110000020000从ChatGPT看AI未来趋势和挑战(万字长文解读!) - 知乎
从ChatGPT看AI未来趋势和挑战(万字长文解读!) - 知乎首发于科技搬运工切换模式写文章登录/注册从ChatGPT看AI未来趋势和挑战(万字长文解读!)算法进阶银行业 员工ChatGPT 持续成为大家关注的焦点,开启通用人工智能(AGI)之门。北京交通大学桑基韬教授和于剑教授撰写的《从ChatGPT看AI未来趋势和挑战》,详述了ChatGPT 的“能”与“不能”,AI中什么是“真”以及AI的未来趋势,非常值得关注!在人工智能领域,ChatGPT 作为一种重要的技术突破,引起了广泛的关注.本文将探讨 ChatGPT 在人 工智能发展中的地位及其对未来 AI 的影响.首先,介绍了 ChatGPT 所展现出的优秀对话生成能力,使其几 乎可以胜任所有自然语言处理任务,并将作为数据生成器、知识挖掘工具、模型调度员、自然交互界面在各 种场景得到应用.接着,分析了其在事实错误、毒害内容生成、安全性、公平性、可解释性、数据隐私等方 面的局限,并讨论了作为辅助人类工具的 ChatGPT 明确能力边界和提高能力范围的重要性.然后,从概念经 典表示对真定义进行了分析,并从概念三指不等价的角度阐释性了 ChatGPT 无法区分真假的原因.在论述 AI 未来时,从拓展应用、克服局限、探索理论分析了中短期技术趋势,并从感知、认知、情感、行为智能四个 层面的关系讨论了长期发展路径.最后,探讨了 ChatGPT 作为认知智能的代表,对包括认知成本、教育要求、 图灵测试认识、学术界的机遇与挑战、信息茧房、能源环境问题和生产力提升等方面可能产生的影响.目录:1 ChatGPT的“能”:生成2 ChatGPT的“不能”:负责3 什么是“真”?4 AI的未来 4.1 中短期技术趋势 4.1.1拓展应用 4.1.2克服局限 4.1.3探索理论 4.2 长期发展路径5 ChatGPT的影响引言2022 年 11 月 30 日,OpenAI 公司发布了一款名 为 ChatGPT 的软件.该软件在发布后的 5 天内,用户 数量就超过了 100 万,2 个月内活跃用户数更是突破 了 1 亿,成为了迄今为止增长速度最快的应用软件. 该软件几乎可以完成自然语言处理的所有任务,因 此在营销、客服、教育、娱乐、咨询、翻译等行业 有着广阔的应用前景.这一成功也激励了OpenAI首席 执行官 Sam Altman,他于 2023 年 2 月 24 日发表了 一篇名为“Planning for AGI and Beyond”的文章, 认为 AGI(Artificial General Intelligence,通用人工 智能)是 AI systems that are generally smarter than humans,需要开始为 AGI 的到来做准备.AGI 会是 AI 的未来吗?本文将对此进行讨论.1 ChatGPT 的“能”:生成比尔盖茨将 ChatGPT 誉为自 1980 年现代图形桌 面环境 GUI 问世以来最具革命性的科技进步.如果说 上一次让 AI 火出圈的 AlphaGo 所展现出的是在特定 领域的“专”,这一次 ChatGPT 展现出的则是 AI 在 广泛应用场景的“通”:这个“通”以正常人都会、 都懂、都能体验的对话形式呈现,让 AI—特别是自 然语言处理技术进入主流用户群,孕育出了这一现 象级产品.具体而言,ChatGPT 在对话过程中展现出了自然对话、多轮交互、上下文学习、思维链推理、 实时反馈在线纠错、涌现出适应未训练任务以及 GPT-4 中新出现的理解弦外之音的能力.ChatGPT 背后的思想其实很简单:将所有语言任务归为对话任务,将对话任务归为文字接龙的生成问题 . 自 然 语 言 处 理 领 域 的 学 者 普 遍 认 为 , ChatGPT 展现出的优秀对话生成能力对传统研究方 法产生了巨大挑战. 1)从目标上看,自然语言处理 旨在让计算机能够以文字或语音的方式与人类进行 有效交流;而对话是人类日常生活中最基本的交流 方式,实现了人机自然对话在一定程度上便达到了 自然语言处理的核心目标.2)从任务类型上,自然 语言处理可分为自然语言理解和自然语言生成两大 类.在谷歌的 T5 模型[1]推出之后,两类任务统一为单 项语言生成的文字接龙形式.自 GPT-1 起,OpenAI 就 一直坚持采用基于解码器结构的自回归语言模型, 这种模型在处理单向语言生成问题方面具有天然的 优势.所以 ChatGPT 可以处理以前不同赛道的语言处 理任务,比如翻译、问答、摘要、扩写、写作、润 色、代码生成、语句分析、段落理解等.当然,ChatGPT 能够实现如今顺畅自然的人机 对话,不仅源于其对 GPT 单向语言生成技术路线的 持续发展,还依赖于算法、算力和数据等多方面的 支持. 由于 ChatGPT 并未对模型进行开源,也没有发 布论文透露具体细节,我们只能基于 OpenAI 已公开 的 GPT 系列技术发展路线来推测这些能力背后的潜在原因. 图1展示了部分 ChatGPT 已展现出的能力及 其背后主要技术原因的对应关系. 值得关注的是, ChatGPT 许多能力背后的原因仍在探索过程中. 关于上下文学习的能力,有学者认为模型从提示词 (prompt)提供的示例中确定了待解决任务的自然语言 指令(instruct),从而在无需微调模型的情况下提升了 问题回答的质量[2] .关于任务涌现和多任务迁移能力, 一方面,有学者认为指令学习、大规模预训练和数 据集多样性共同促进了模型在新任务的泛化能力[3] . 例如,通过在大量不同类型和指令任务上进行微调, 模型学习到了一定程度的通用能力,从而能够泛化 到未见过的指令和场景.另一方面,不同任务的划分 具有一定的主观性,其本质上都可以建模为统一的 自然语言生成任务.大型预训练语言模型通过学习大 量训练数据,掌握了丰富的语言知识和多种任务之 间的共性,进而利用这些共性来提高不同任务的性 能.然而,一些问题仍然没有明确答案,例如:何种模型规模和训练数据量阈值可以产生任务涌现能力?涌现能力与模型规模和训练数据量之间的量化关系 如何?同时,其他一些能力,如在线纠错、理解弦 外之音等,其背后的原因仍然是个谜.OpenAI 首席科学家 llya Sutskeve 最近在与英伟 达 CEO 黄仁勋的访谈中对 ChatGPT 能力学习进行了 解释:“ChatGPT 通过学习文本中的统计相关性,获 得了这个世界的一个压缩、抽象、可用的映射表 达”.这让我们不禁思考:ChatGPT 是否学到了人类 文字符号世界的暗知识(tacit knowledge[4]).Michael Polanyi 在他的这本认识论著作中曾提到:“We can know more than we can say(我们所知者,远多于所 能说者)”.可以确定的是:机器学习模型通过统计海量符号语料中的规律,能够学习到词汇、语法、 乃至一定程度的上下文和常识知识.问题是:随着语 料规模的不断增加和统计规律的持续积累,模型所 建立的世界表达分辨率越来越高、维度越来越丰富 时,是否真的有可能学习到人类情感、道德观念等 支撑整个世界运行的更复杂的暗知识?在学术界积极探索 ChatGPT 能力背后的技术原 因的同时,工业界已在欢迎这项新技术,并将其优 秀的对话生成能力融入各种应用场景.根据 ChatGPT 对话的对象和本身的定位,我们将这些应用分成 4 个层次(如下表 1 所示):1) 数据生成器,根据需求直接生成数据.此类应用 仅输入用户需求,利用 ChatGPT 的生成能力返回特 定类型的数据.由于思路简洁且实现容易,数据生成 类应用在 ChatGPT 发布之初就大量出现.主要应用场 景包括对话生成(客服、虚拟数字人)、文案生成 (法律文书、营销策划广告)和代码生成等.典型的 成功案例包括写作助手 Notion AI、营销文案生成工 具 Jasper.ai. 2) 知识挖掘工具,对数据进行再加工或分析挖掘. 此类应用同时输入用户需求和待处理的原始数据, 利用 ChatGPT 强大的自然语言处理能力返回经过加 工的数据或挖掘出的新信息.知识挖掘类应用可以分 为 离 线 和 在 线 两 种 形 式 . 离 线 应 用 通 过 调 用 类 ChatGPT API 分析和挖掘私有数据等专业领域语料构 建知识库,为进一步应用提供知识支持.在线应用的 主要场景包括翻译、润色、摘要生成、文档管理等. 一些典型案例包括搜索引擎摘要插件WebChatGPT、 文档分析工具 ChatPDF 以及 OpenAI 官方随 GPT-4 发 布的摩根士丹利策略分析师. 3) 模型调度员,调用其他机器学习模型共同解决 用户需求.此类应用同时输入用户需求、待处理数据 以及多个可调用的机器学习模型,通过 ChatGPT 作 为人类与其他模型间的连接,设计解决方案、调用 并管理其他机器学习模型,共同完成用户需求并输出结果.这方面的典型案例是微软近期发布的系列多 模态解决方案 Visual ChatGPT[5]、MM-ReAct[6]和 HuggingGPT[7],其通过调度其他视觉基础模型来协 同完成视觉和语音任务.此外,AI 赋能一直以来的一 个痛点问题是,智能中台需要整合不同模型和技术, 并根据业务需求扩展新的模型.ChatGPT 有望实现智 能中台的升级:提供友好的开发/业务人员界面、实 现模块化模型管理、简化技术集成和部署,从而提 高 AI 赋能效率.随着 ChatGPT 应用探索的深入,相 信模型调度员类型的应用将越来越受到关注.4) 人机交互界面,调用更广泛的应用程序帮助人 类解决实际问题. 第一种形式是将 ChatGPT 嵌入到特 定应用中,从而极大地提升自然交互体验,如微软 的 365 Copilot 和 Copilot X 分别将 ChatGPT 融入 Office 和 Github.第二种形式是在 ChatGPT 搭建的自 然语言交互框架上开发各类信息服务应用,去年 10 月推出的开源库 LangChain 和 OpenAI 最近发布的插 件集 Plugins 都是大型语言模型应用开发框架的典型 尝试.正如 Windows 和 Android 分别是桌面和移动时 代的操作系统,ChatGPT 有望成为智能时代的操作 系统接口.进一步畅想,如果把语言分为人类之间沟 通的自然语言和人与计算机之间沟通的计算机语言, ChatGPT 在一定程度上统一了二者:用自然语言实 现了人和计算机之间的沟通,不得不说“自然语言 编程(Natural Language Programming)”这一新词非常 贴切.从这个角度看,我们甚至可以大胆预测:人机 交互界面将从磁带、键盘字符、鼠标图形全面进化 到自然语言时代.以上围绕对话生成讨论了 ChatGPT 的具体能力、 背后的技术原因以及在不同定位下的应用形式.尽管 “对话生成”提供了无限的想象,但 OpenAI 的野心 显 然 并 不 止 于 此 . 从 名 称 和 发 布 时 间 点 来 看 , ChatGPT 似乎只是一种过渡性技术的产品形式.在以 对话这种产品形式向主流用户群展示了强大的技术 实力之后,OpenAI 新发布的 GPT-4 并未继续在对话 生成功能上炫技,而是悄然接入了各类官方应用. 从生物学角度,语言和智能的演化过程相互促 进.人类智能在很大程度上依赖于高度复杂的语言系 统.语言作为思维的载体和智慧的外在表现,其运用 能力很大程度上反映了认知能力和智能水平.语言习 得是认知发展的重要组成部分.儿童在成长过程中通 过习得语言来理解世界,并逐渐掌握其他认知技 能.ChatGPT 等技术在语言生成能力的持续提升能将 人工智能带到什么高度,让人非常期待.2 ChatGPT 的“不能”:负责能力越大,责任越大. ChatGPT 展现出的强大能 力让主流用户群欣喜、学术界惊讶、工业界狂热.这 些能力让我们在使用它时感受到了与以往技术不同 的体验.回顾人类历史上的几次技术革命,从早期的 石器、金属器具、机械设备、电气设备到近几十年 的计算机、互联网和智能手机,每一个阶段所发明 的工具都对人类生活产生了深远影响.在使用这些工 具时,我们可以清楚地意识到它们作为工具的定位, 即辅助人类来完成任务.然而,在使用 ChatGPT 的过 程中,我们经常会产生一种与另一个人对话的错觉, 尤其是当类似 Plugins 这类功能使其能够像人类一样 利用其他工具进行自我增强的时候.埃隆-马斯克在使 用 ChatGPT 后的感受是“好到吓人”.这种独特的体 验无疑将加速技术融入人类社会的进程.正如 OpenAI 自己对 ChatGPT 的评价:“尽管 ChatGPT 还没有实 现真正的智能,但它让人体验到了真正的智能实现 后,每个人都能用它做各种他们想做的事情的滋味.”整个 2023 年 3 月被各种生成式 AI 技术和产品 的发布充斥:Meta Alpaca、GPT-4、PaLM-E、文心 一言、Office Copilot、Midjourney V5、英伟达新显 卡 、 Github CopilotX 、 ChatGPT 插件、 Security Copilot 等.我们可以预见相关技术的应用领域将迅速 拓展、应用程度将大幅度加深.人们在享受技术带来 的便捷和生产力提升的过程中,对技术的态度将从 习惯逐渐转变为依赖.而当人们开始依赖这些技术代 替自己学习、思考、甚至决策时,有两个问题摆在 我们面前:技术是否已经做好准备承担责任?人类对技术的信赖是否超出了它的能力?实际上,ChatGPT 在使用过程中已被发现存在 诸多问题:如数学计算、未来预测、时空物理现实 推理等方面能力的局限,以及事实错误(幻觉)、生成 毒害内容等方面的不可控[8] .下面从可信 AI 的 4 个维 度对 ChatGPT 存在的问题展开讨论.1) 安全性. OpenAI 在官网上将“安全”列为五个目 录之一,在随 GPT-4 发布的报告中批露了其在技术 和评估两方面都设立了专门的安全小组,足见对安 全性的重视.然而,和所有机器学习模型一样, ChatGPT 仍存在着被对抗攻击的风险.一种典型方式 是提示语注入攻击(prompt injection attack):在提示 语中混入恶意指令,可能绕过 ChatGPT 的安全机制, 迫使其执行意外动作,如泄露敏感信息、输出有害 内容等.例如,ChatGPT 驱动的新 Bing 在受到攻击后 泄露了其内部代号“Sydney”;ChatGPT 被诱导规划 抢劫方案,甚至提供了购买抢劫道具的链接等.2) 公平性.在 ChatGPT 之前,OpenAI 的文生图DALL-E系列曾被发现存在输出性别和种族歧视内容 的问题.类似地,GPT-2、Bert、RoBERTa 等语言模 型在一个测试项目中也被发现具有严重的性别偏见 倾向[9] .尽管目前尚无系统性研究分析 ChatGPT 在性 别和种族偏见方面的表现,但已有研究发现它存在 明显的语言敏感性:例如,当用日语和俄语分别询 问一个日俄争议岛屿的归属问题时,ChatGPT 给出 了截然不同的答案[10].3) 可解释性. ChatGPT 的思维链能力可以在答案中 同时呈现推理过程,这在部分程度上解决了实验室 环境下模型可解释性的问题.然而,需要注意的是, 这种推理过程的解释是面向用户的,并不一定与模 型的实际运行机制准确对应.此外,ChatGPT 仍存在 很多尚未解释的行为,包括自我在线纠错、理解弦 外之音等能力,以及出现事实错误(幻觉)等问题.由 于大模型本身的复杂性以及仅通过 API 提供服务的 现实限制,ChatGPT 对于用户和开发者都是完全的 黑箱.随着应用场景的拓宽和加深,现有的解释性水 平可能难以满足透明度和回溯性等的要求. 4) 数据隐私. 涉及 2 个方面:训练阶段的数据侵权 和推理阶段的隐私泄露.大模型训练需要的海量数据 多来自网络,其中难免包括未经授权的版权保护内 容.ChatGPT 虽然可能避免语句层面的抄袭,但难以 避免语义上的深度抄袭.2023 年,大模型领域发生了 多起版权侵权案.例如,三名艺术家指控 Stable Diffusion 使用其版权作品作为训练数据,而微软和 OpenAI 因其开发被指控其开发的编程助手 Copilot 涉 嫌复制 Github 上的开源代码而受到指控.在推理阶段, 攻击者有可能通过逆向攻击等手段,利用模型输出 的结果来反向推导出训练数据中的隐私信息.GPT-2、 BERT、RoBERTa 等语言模型均被发现存在数据隐私 泄露的风险[11] .随着模型规模和功能多样性的增加, 这种风险可能进一步加大:模型规模越大,其记忆 能力越强;功能越多样化,可被利用的信息和攻击 方式也越丰富.ChatGPT 自身代号的泄露便证实了这 一点.从生成式 AI 模型选择的技术路线和当前发展水平看,这些问题既可以归结为大型语言模型固有的结构局限,也可以归结为将符号任务统一建模为对 话问题的过度简化.关于这条技术路线的未来发展, 同时存在着乐观和悲观的观点.乐观派认为,人脑神 经元突触连接总数约为一百万亿,随着语言模型参 数量的不断增加,模型可能在某个时刻实现量变到 质变的跃迁,这些问题也会自然消失.然而,包括乔 姆斯基、Stuart Russell 等大佬在内的悲观派则持相反 观点,他们认为端到端的深度学习与人类进行推理和使用语言的方式有着巨大差异,依靠更多数据和 算力无法消除这些缺陷或实现真正的智能.不讨论技术路线的选择或者观点的对错,不管 生成式 AI 模型的能力演进到何种程度,其定位始终 是帮助人类更好地完成任务的工具.作为工具,首先 应该明确能力边界,即“做自己能做的事”.在认知 心理学中,约瑟利窗口(Johari Window)将人际关 系划分为公开区、盲区、隐藏区、未知区四个象限 [12] .参照这种方法,如图 2 所示,我们可以沿“自知” 和“能力”两个维度绘制一个坐标系,智能工具处 理的任务将落在其中一个象限内.当任务落在“自知” 负半轴的两个象限时,可能会出现不可预知的问题:在隐藏区时,模型“不知道自己能”,可能在收到用 户反馈后将原本正确的答案改为错误,或接受用户 错误反馈的引导;在未知区时,模型“不知道自己 不能”,可能会产生事实错误幻觉,一本正经地胡说 八道.根据“自知”-“能力”坐标系,首先需要明确 能力边界,即扩大“自知”正半轴两个象限的覆盖 范围,使更多任务落入公开区和盲区.在公开区时, 模型可以自信地回答用户的问题;而在盲区时,模 型应该承认能力缺陷,避免回答不知道的问题,或 者虚心接受用户的反馈引导.PAL[13]是开发隐藏区的 一个例子,通过在提示词中注入包含推理过程的程 序示例,成功挖掘了模型在原本容易回答错误的数 学推理类任务的解决能力.在明确能力边界后,需要 进一步提升模型的能力,即扩大“能力”正半轴、 尤其是第一象限的面积,使更多的任务从盲区转移 到公开区.缩小盲区的一个例子是 ReAct[14],它将推 理和行动结合,通过调用搜索等插件从网络等外部 资源中逐步、有选择性地收集和处理新信息,从而 提高了模型在各种复杂场景下的解决能力.另一个最 新提出的框架 Reflexion[15],它在 ReAct 基础上加入 了自省 Reflect 功能,通过试错的方式,在寻找自身 能力边界的同时,探索新任务的解决方案.这是一个 在同时确定能力边界和提高能力范围方面很有意思的尝试.当然,“自知”-“能力”坐标系只是一个理想 和简化的框架.人类在执行任务时,通常会考虑诸如 道德、伦理、公平等价值观.而 ChatGPT 并不具备人 类的价值观和判断力,可能会生成与事实相悖的错 误信息和误导性的建议.比如,当用户询问“林黛玉 是如何倒拔垂杨柳的”,ChatGPT 会一本正经地介绍 相关具体细节.事实上,《林黛玉倒拔垂杨柳》是一 部网络小说,中文论坛上也有许多对这一虚构情节 的讨论.模型在学习这些语料时无法区分虚构和现实, 因此产生了这个尴尬的回答.随着 GPT-4 的发布,可 以预见 ChatGPT 将有能力在符号世界中实现自动化 生成.然而,它依然不能确保所生成内容的真实性, 自然更无法对生成结果承担责任.3 什么是“真”?为了解释为何 ChatGPT 无法保证结果为真,首 先需要探讨什么是“真”.“真”的定义有很多,本 文采用亚里士多德的经典定义[16]:说是者为非,非 者为是,即为假;而说是者为是,非者为非,即为 真. 基于此,Tarski 提出一个更形式化的“真”的定 义[17]:X 是真语句当且仅当 p, 其中 p 代表任意语句,X 是语句 p 的名称. 即,一个语句是真的,当且仅当它描述的情况确实 发生了.比如:“树在长芽”是真语句当且仅当树在 长芽,即“树在长芽”是真语句当且仅当树在长芽 确实发生了.但是,这个看似合理的“真”的定义却隐含矛 盾.Tarski 转述了乌卡谢维茨的加强版说谎者悖论: 令 C 是“C 不是一个真语句”的名称,因此, 有如下两个假设: 1)α假设:C=“C 不是真语句”; 2)β假设:“C 不是真语句”是真语句当且仅 当“C 不是真语句”.综合α假设与β假设,即可以得到:C 是真语 句当且仅当“C 不是真语句”,悖论.Tarski 关于“真”的定义和上面的推理似乎都没 有问题,那问题出在哪里呢?我们认为问题出在概 念的定义上,因此需要仔细考察概念的定义.众所周知,概念的经典表示由三部分组成:符 号表示、内涵表示和外延表示.其中,概念的符号表 示由概念名称表示,概念的内涵表示由描述概念特 性的命题表示,概念的外延表示由概念所包含的实 例的经典集合表示.比如,“偶数”这个概念,其中文符号表示是“偶数”这个词;内涵表示是 “能被 2 整除的整数”这个命题;外延表示是包含所有偶数 的集合:{...,-6,-4,-2,0,2,4,6,...}.如图 3 所示,根据经典表示,每个概念具备 3 种 功能:指名、指心和指物,同时对应着波普尔的 3 个世界:符号世界、心理世界和物理世界[18] .概念的 指名功能,是指每个概念都指向认知世界或符号世 界中的一个实体,用所指对象的特定符号名称来表 示.这些符号名称可以组成各种不同的语言.概念的指 心功能,是指每个概念也指向人类心理世界中的实 体,代表这个概念在心理世界里的对象表示.概念的 指物功能,强调概念与物理世界中的实体之间的对 应,这些实体遵循物理世界的规律,可以独立于人 的主观感受. 如果从概念的表示来实现人工智能,指名指物 指心对应了 3 条路径:符号主义、连接主义和行为 主义.如果从概念的功能角度来对人工智能分类,可 以分为认知智能、情感智能和行为智能.认知智能实 现了概念的指名功能,即处理和理解符号世界的问 题.情感智能则实现了概念的指心功能,主要关注心 理世界中的问题.而行为智能则体现了概念的指物功 能,主要解决物理世界中的问题.然而,如果要实现 概念的三指功能,必须首先解决机器的感知问题.解 决机器感知问题是最基本的人工智能,通常被称为 感知智能.感知智能主要关注机器的输入输出处理, 是实现认知智能、情感智能和行为智能的基础.在概念的经典表示下,概念的指名、指心与指 物功能是等价的,其符号表示、内涵表示和外延表 示在功能上也是可以互换的.这是因为概念的经典表 示存在 6 条预设:1) 概念的外延表示可以由集合{x1,x2,⋯ ,}表示; 2) 概念的内涵表示存在且用命题∀xP(x)表示; 3) 概念的名称存在,且用符号表示 A;4) 概念的外延表示与内涵表示同名:A={x1,x2, ⋯ ,}=“∀xP(x)”;5) 概念的表示唯一,即同一个概念的表示与个体无关:∀α(A α=A), α 代表一个人;6) 概念的指称等价,即其内涵表示与外延表 示在指称对象的时候功能等价∀x(x∈A↔P(x)),其中, A={x1,x2,⋯ ,}.根据上述概念的经典表示,可以知道概念的指 名、指心与指物功能是等价的.在日常生活中,这种 情况非常普遍,因此说真话是通常的情形.罗素曾给 出一个清晰的论证[19]:“除非假定说真话是一种通常 的情况,否则没有人能够学会说话:假设当你的孩 子看到一条狗时,你随意地说出‘猫’、‘马’或者‘鳄 鱼’,那么当他看到的不是一条狗时,你无法通过能 通过说‘狗’来欺骗他.因此,说谎是一种派生的行为, 它预设了说真话是通常的规则.”在上述罗素的论证 里,可以清楚地看到,其预设了概念的指名与指物 等价,即假设概念的三指等价是真的必要条件.如果概念的指名、指心与指物功能等价,则可 以认为:认知智能、情感智能与行为智能等价.这意 味着一旦实现了认知智能,也就同时实现了情感智 能和行为智能.同时,人工智能的三条实现路径—符 号 主 义 、 连 接 主 义 和 行 为 主 义 一 也 是 等 价 的.ChatGPT 和 GPT4 的出现,表明认知智能已经取 得了巨大的进步. 如果概念的三指等价,那么认知 智能的巨大进步预示着情感智能和行为智能将取得 同样的巨大进步.从这个角度看,实现 AGI 似乎也有 可能性.然而,乌卡谢维茨悖论告诉我们概念三指等价 在逻辑上并不永远成立:它内蕴矛盾.Tarski 的真定 义实际上等价于如下命题:概念的指名功能为真当 且仅当概念的指物功能为真.显然,概念的经典表示 也预设了 Tarski 的真定义. 仔细分析乌卡谢维茨悖论 的逻辑推理,可以发现 α 假设与 β 假设都预设了概 念的指名功能为真与概念的指物功能为真等价,这 必然导致悖论.实际上,在概念的三指等价条件下, 针对包含算术系统的逻辑系统,哥德尔证明了不完 全性定理,而Tarski得到了著名的真之不可定义定理. 这些都说明在复杂一点的符号系统内部,不可能解 决 何 为 真 何 为 假 的 问 题 . 因 此 , 从 理 论 上 讲 , ChatGPT 和 GPT4 同样无法解决真假问题.因此,我 们必须放弃概念的三指等价假设.一旦放弃了这个假 设,就会发现认知智能、情感智能与行为智能是不 可能等价的.实际上,现实生活中,这三种智能从未 等价过.4 AI 的未来 很多人认为 ChatGPT 已经开启了第四次技术革 命.面对这种尺度的变革,我们很难在早期准确预测未来的发展.在这里,我们仅从中短期技术趋势和长 期发展路径两个方面,来探讨在当前阶段我们对这 一技术的理解. 4.1 中短期技术趋势 OpenAI 发明 ChatGPT 对于人工智能领域的影响, 可以类比哥伦布发现了美洲大陆.在哥伦布发现美洲 之前,探险家们一直渴望着探索新大陆,并尝试使 用各种方法去寻找它.然而,即使是经验非常丰富的 探险家,也并不确定新大陆是否真实存在,以及哪 种航海方法更为有效.哥伦布的成功不仅坚定了后来 探险家们的信心,更在一定阶段内统一了寻找新大 陆的方法:在新的突破性技术出现以前,看似简陋 的帆船和罗盘已经足以带领人们到达目的地.同样地,ChatGPT 的诞生为人工智能领域注入 了信心并指明了发展方向,展示了“大力出奇迹” 的可能:通过不断扩大神经网络的模型规模和增加 数据量,可以在 AI 的道路上取得实质性的进展.在这 一目标和技术路线的共识下,我们从拓展应用、克 服局限和探索理论 3 个方面探讨人工智能领域中短 期的可能技术趋势.4.1.1 拓展应用 1) 垂直化. ChatGPT 发布初期,人们尝试在提示 词中注入角色信息以增强垂直领域对话质量.为克服 提示词 token 数量限制以融合领域语料,有工作提出 基于LangChain框架,将领域文档切片后分布式输入. 但这种做法存在私域数据泄露风险,解决思路之一 是利用 ChatGPT 控制和调用其他领域模型来提高垂 直化能力.此外,MIT 最近提出保护隐私的迁移学习 框架 Offsite-Tuning[20],可在不访问完整模型的前提 下,在下游领域数据上微调数十亿级参数的基础模 型.对于需要构建领域模型的场景,在不泄露基础模 型和领域数据的情况下,实现对通用基础模型的领 域微调非常重要. 2) 个性化. 个性化可视为垂直化的极致,针对个 人需求和偏好的个性化微调模型能够提供更精确的 服务.典型的应用场景包括个性化推荐系统、个性化 教育辅导、个人 AI 助理等.微软于 2023 年 4 月 4 日 开源了大模型协作项目 JARVIS,旨在大型语言模型 与机器学习社区的其他模型之间建立连接.JARVIS 这 个名字让我们对钢铁侠中同名的 AI 助理产生更多联 想.如果未来个性化模型可以通过多模的人机交互来 增强,实现与人类对世界的同步感知、学习和成长, 这样的 AI 助手能够更好地理解个性化需求、情感和 行为,协助我们实现更高效的工作、学习和生活方 式.在这个过程中,我们需要解决诸如中心平台式 AI 如何保护个人数据以及在个体层面部署模型等问题. 3) 工程化. ChatGPT 的诞生某种程度上是工程 化的胜利,而它的成功无疑将进一步加速 AI 技术从 实验室研究走向工程化和产业化.从必要性上看,随 着数据量和计算资源需求的增加,工业界拥有更好 的条件主导大模型研发,相关实验室研究也需调整 研究范式和目标以适应工程化需求.从可行性上看, ChatGPT 的成功让工业界看到了 AI 技术在各行业落 地和价值实现的可能,众多开源项目和成熟技术框 架的出现则为 AI 技术工程化提供了支持.从重要性上 看,工程化是一个学科发展和成熟的标志,AI 技术 的工程化有助于进一步优化和完善相关技术,激发 学术创新活力,推动 AI 领域的整体发展. 4.1.2 克服局限 1) 多模态增强. 多模态大模型的发展逐渐以语 言模型为主,将视觉、语音等多模态信息映射到语 义符号空间进行处理.近来的多模态解决方案更是提 出直接以大型语言模型为基座来拓展多模态能力, 如 Visual ChatGPT 和 MM-ReAct 以 ChatGPT 为中心 调度其他视觉模型、PaLM-E 固定语言模型训练额外 的视觉编码器等.然而,人类在进行多模态学习时并 不完全依赖于符号空间,大脑神经网络在不同感官 区域间传递、整合信息,同时结合视觉形象、空间 关系等非符号性表示.由于多模态世界建模更为复杂, 以语言模型为主或是现有条件下的折衷.随着多模态 数据量与模型参数继续增加,期望在视觉、语音等 空间实现真正的多模态生成能力.如被细线系着的气 球照片,无需映射至语义空间,模型即可预测线剪 断后的情景. 2)人机交互增强. 有人将现在的 ChatGPT 比作 一个博览群书的神童,却从未亲身体验过这个世界. 经典的认知实验发现,与被动旁观的猫相比,具有 自由活动能力的猫可以通过主动与环境互动并获得 反馈,从而更好地学习行为能力[21] .在一项微软的最 近研究中,ChatGPT 已经能够根据人类的要求自动 编写代码并指挥无人机协助完成任务[22] .通过进一步 考虑生物学特性、身体感知和行动的影响,有望实 现与真实物理世界的双向交互,在自主行为反馈中 不断提升自身智能水平. 3) 可信增强. 之前的讨论已概括了 ChatGPT 当 前的局限和进行可信研究的必要性.可以预见,每个 大模型公司都将需要一个专注于可信的安全和伦理 团队.这就不难理解 OpenAI 的系列举措:GPT-4 在训 练完成后经过半年的评估和修正才发布、用 30 余页 技术报告介绍安全补丁 System Card,以及对模型评 估框架Evals的开源.即便如此,ChatGPT还是因隐私问题在意大利遭禁,并遭到包括马斯克和沃兹尼亚 克等上千名知名人士的联名叫停.值得注意的是,除 了安全、公平、可解释、数据隐私等经典可信问题 外,ChatGPT 还会带来模型回音壁等新问题.目前, 使用 ChatGPT 生成的对话数据进行训练已经成为公 开的秘密,甚至出现了专门收集 ChatGPT 对话的网 站 ShareGPT.其实,在人类反馈强化 RLHF 后,就有 学者提出了基于智能模型反馈强的 RLAIF 框架[23] .随 着模型规模继续增加,可供训练的自然数据面临枯 竭,模型生成标注和反馈数据在模型间的回音壁效 应将加剧可信问题.此外,垂直化、个性化、多模态 等技术趋势也会带来新的可信挑战.关于可信增强的 方案,考虑到传统 AI 测试基准已不足以评估模型能 力,我们需要尽快构建新的可信测试基准:包括可 信 benchmark 数据集和可信测试框架.此外,为了准 确评估模型的应用成熟度,我们应该研制面向大型 语言模型的可信标准,以规范不同可信等级的模型 在相应的应用场景中使用.同时,结合工程化的发展 趋势,我们可以参考软件开发周期中的测试-调试闭 环,在基础模型和下游模型两个层面进行迭代优化, 以确保模型在大规模应用场景中的可信性.4.1.3 探索理论1) 预训练模型机理研究.近年来,计算机视觉和自 然语言处理领域的技术框架逐渐趋同.学习范式从特 征工程、深度监督学习转向自监督预训练,模型结 构从 CNN、RNN 发展为 Transformer.针对自监督预 训练和 Transformer 结构,仍有很多基础性问题等待 研究,如自监督学习泛化理论、预训练与微调的动 态平衡分析、Transformer 结构的\定性和鲁棒性分析 等.对于 ChatGPT,除了探究在线纠错、理解弦外之 音等原因未知的能力外,还需进一步研究任务涌现 能力与模型规模以及训练数据量等的关系,为未来 模型设计和实际应用提供指导. 2) 学科交叉融合研究. ChatGPT 作为催化剂,不仅 将推动人工智能学科内部计算机视觉和自然语言处 理领域的进一步整合,而且将激发学术界和工业界 更加深入地探讨和实践人工智能和其他学科交叉融 合以及跨学科应用的可能性.以脑科学为例,结合脑 结构和人工神经网络研究,我们将更有可能揭示智 能产生的本质原因.实际上,OpenAI 的 CEO Sam Altman 早就投资了可控核聚变公司 Helion 和生物科 技公司 Retro Biosciences.科技部近期启动的 AI for Science 专项部署工作更是明确指出了将人工智能与 数学、物理、化学、天文等基础学科紧密结合,重 点攻关药物研发、基因研究、生物育种研发、新材 料研发等领域的关键问题.4.2 长期发展路径 我们沿着概念经典表示和人工智能分类的讨论 来看 AI 未来可能的发展路径.《左传》里有句名言, “太上有立德,其次有立功,其次有立言”.显然, 立德属于心理世界,是情感智能的范畴;立功属于 物理世界,是行为智能的范畴;立言属于符号世界, 是认知智能的范畴.应该指出,这三个世界既互相独 立又相互依存.比如,符号世界也必须通过心理世界 表示才能为人所感知,同样符号世界也必须通过物 理世界显现展现才能传播.对于人而言,认知的物理 世界本身也属于符号世界的示例,没有成为符号示 例的物理对象难以被符号世界记录,同样,物理世 界也是通过心理世界被人感知.三个世界各自都足够复杂.在符号世界中,有自 然符号、模拟符号和象征符号.其中自然符号直接用 物理世界中的对象作为符号,比如学生用书包或其 它个人物品占座.此时的书包或个人物品就有了符号 意义,属于典型的自然符号.图像、视频等是典型的 模拟符号.文字是最常见的象征符号.至于心理世界、 物理世界的复杂性,更是众所周知.为了计算方便,通常假定概念的三指等价,即 符号世界、心理世界、物理世界三界同构.比如,符 号主义的物理符号系统假设认定物理符号系统具有 产生智能行为的充要条件,这暗示了符号世界与物 理世界等价.连接主义认为只要能模拟大脑的思考功 能就足够了,实际上它假设了心理世界(或其子集) 与物理世界等价.行为主义则认为只要能在物理世界 实现智能,不需要知识、表示和推理,只需要感知 和行动,这意味着符号世界、心理世界是物理世界 或其子集.但是,3 个世界并不同构.比如,乔姆斯基 曾经写过一个著名的句子:“Colorless green ideas sleep furiously.”这个句子在符号世界可行,但在心 理世界和物理世界就失去了可行性.因此,3 个世界 同构假设仅是一种有用的简化,并不总是成立。由于 3 个世界并不同构,它们之间的关系相当复杂.这导致在 3 个世界中实现智能的难度也大为不 同.从共性上讲,无论在哪个世界实现智能,首先必 须解决最基础的感知问题,即输入输出问题.从难度 上看,感知智能、认知智能、情感智能、行为智能 依次增加.原因很简单:感知智能保持了 3 个世界同 构假设.从认知智能开始,我们必须放弃 3 个世界同 构的假设,只能假设 3 个世界的某些受限子集同构. 认知智能旨在解决符号世界的智能问题,其实现主 要受制于符号世界的规律,这些规律可能是显知识, 也可能是暗知识,但认知智能依然在符号世界内预 设概念的三指等价.情感智能主要解决心理世界的智 能问题,除了受制于心理世界外,也受制于情感所 在的物理个体,即情感必须在认知层面具备具身特 性.理论上,西施难以与青蛙共情,夏虫不能与秋雁 同语.对于机器来说,情感智能是基于认知智能的, 情感智能也是依赖于机器内部的符号操作.仅有认知 智能并不能实现情感智能,情感智能的实现难度髙 于认知智能,情感智能预设心理世界内的概念三指 等价.行为智能主要解决物理世界的智能问题,不但 受限于作为行为主体的自身物理条件,也受限于其 所处的物理环境,约束最多,因此实现难度最大.莫 拉维克悖论实际上是对行为智能实现难度最大的一 个简单说明.对于行为智能来说,任一概念的三指等 价都需要检验,任一概念的三指等价都不能先验预 设成立,这正是莫拉维克悖论背后隐藏的挑战.图 4 比较清楚地说明了概念的三指等价性从默认成立到 必须检验所对应的不同智能阶段。根据以上分析,人工智能的发展路径可以预测 为:首先成熟的是感知智能,次之为认知智能,再 次为情感智能,最后是行为智能.这与人工智能目前 的现状相符.当前,感知智能的问题已经大部分解决, 已经融入人们的日常生活.得益于 ChatGPT 等技术, 认知智能的问题已经初步解决,即将走入人们的生 活.情感智能的问题部分解决,受限可用,比如在三 界同构假设成立时,可以使用类 ChatGPT 技术.行为 智能的问题尚极具挑战性,在目前的情况下可用性 受到严重限制,如在工厂等封闭场景下部分可用, 距离人们的日常生活需求尚远.之所以在部分封闭场 景下行为智能能实现,原因即在于此时对应的相关 概念可以保证其三指等价.粗略地说,感知智能是人工智能中的基础智能, 可视为人工智能的 1.0 阶段.认知智能是人工智能的 2.0 阶段.情感智能则为人工智能的 3.0 阶段.行为智能 可以看作是人工智能的 4.0 阶段.目前的人工智能发 展已经进入了 AI2.0 时代,未来的 AI3.0 和 4.0 还有 待努力.5 ChatGPT 的影响 人工智能发展至今,迈入认知智能时代,确实 取得了重大进步.虽然离 AI3.0 和 4.0 距离尚远,但依 然将对我们的生活产生重要影响: 1)生成式 AI 的成功提醒我们,符号世界、心 理世界、物理世界三界同构假设不是恒真.今后,各 种符号的证据力量需要检测,不能预设为真. 这不仅 大幅提升认知成本,还考验认知能力.随着类似 ChatGPT 工具的普及,它可能代表认知的最低水准. 2)每次技术进步,都对教育提出了更高的要求, 这次也不例外. ChatGPT 展现出的认知水平要求人们 更注重提出问题和独立判断的能力.鉴于符号世界的 人类普适性,教育尤其是高等教育需要提前布局. 3)ChatGPT 表明认知智能已可用,但依然不可 能通过原始的图灵测试.这表明图灵测试是有启发性 的思想实验,但不是衡量智能的实践标准. 4)ChatGPT 的成功为国内人工智能学术界同时 带来机遇与挑战.机遇包括提高学界对相关问题的理 解,例如任务的主观性,以往的多任务可能在新视 角下视为单任务;同时,全社会对人工智能潜在能 力的直观体验和认可得到提升,将极大推动相关产 业的发展.然而,挑战也不容忽视:应用研究方面, 社会对技术的期待值提高,实效性和实用性至关重 要;理论研究方面,技术已领先于理论,亟需加强 理论研究.5)类 ChatGPT 技术的大规模应用可能导致意识 形态等方面的信息茧房效应. 特别是类 ChatGPT 是中 心化的 AI 平台,容易使人们在获取信息时只接触到 特定内容和片面观点,这一方面会加剧社会分化, 另一方面会降低观点多样性,阻碍创新思维的产生, 为社会带来潜在危害. 6)大模型对计算量的巨大需求可能会加剧全球 能源危机,并对环境产生不良影响.我们期望 AI for science 通过加速科学发现,更迅速地找到可持续能 源解决方案和新的节能技术,从而尽量降低这些负 面影响. 7)ChatGPT 在提高生产力方面潜力巨大.通过自 动化处理一些繁琐的、重复性的任务,它可以解放 人们的时间和精力,让人们关注于更有价值、更具 创造力的工作,进一步推动社会创新和发展.参 考 文 献[1] Raffel C, Shazeer N, Roberts A, et al. Exploring the limits of transferlearning with a unified text-to-text transformer[J]. The Journal of Machine Learning Research. 2020, 21(1):5485-5551 [2] Zhou Y, Muresanu AI, Han Z, et al. Large language models are human-level prompt engineers[OL]. arXiv preprint arXiv:2211.01910. 2022[3] Wei J, Tay Y, Bommasani R, et al. Emergent abilities of large language models[OL]. arXiv preprint arXiv:2206.07682. 2022 [4] Polanyi M, Sen A. The tacit dimension[M]. Chicago, IL: University of Chicago Press,2009 [5] Wu C, Yin S, Qi W, et al. Visual chatgpt: Talking, drawing and editing with visual foundation models[OL]. arXiv preprint, arXiv:2303.04671. 2023 [6] Yang Z, Li L, Wang J, et al. MM-REACT: Prompting ChatGPT for Multimodal Reasoning and Action[OL]. arXiv preprint, arXiv:2303.11381. 2023 [7] Shen Y, Song K, Tan X, et al. HuggingGPT: Solving AI Tasks with ChatGPT and its Friends in HuggingFace[OL]. arXiv preprint, arXiv:2303.17580, 2023 [8] Borji A. A categorical archive of chatgpt failures[OL]. arXiv preprint, arXiv:2302.03494. 2023 [9] Liu Y, Liu X, Chen H, et al. Does Debiasing Inevitably Degrade the Model Performance[OL]. arXiv preprint, arXiv:2211.07350. 2022 [10] Zhuo TY, Huang Y, Chen C, et al. Exploring ai ethics of chatgpt: A diagnostic analysis[OL]. arXiv preprint, arXiv:2301.12867. 2023 [11] Carlini N, Tramer F, Wallace E, et al. Extracting Training Data from Large Language Models[C] //Proc of USENIX Security Symp. Berkeley, CA : USENIX Association, 2021: 2633-2650 [12] Luft J, Ingham H. The Johari window, a graphic model of interpersonal awareness[C] //Proc of the Western Training Laboratory in Group Development. Los Angeles: University of California, Los Angeles, 1955, 246 [13] Gao L, Madaan A, Zhou S, et al. PAL: Program-aided Language Models[OL]. arXiv preprint, arXiv:2211.10435. 2022 [14] Yao Shunyu, Zhao J, Yu Dian, et al. ReAct: Synergizing reasoning and acting in language models [C] //Proc of the Int Conf on Learning Representations (ICLR). 2023[2023-04-10]. https://arxiv.org/abs/2210.03629 [15] Shinn N, Labash B, Gopinath A. Reflexion: An autonomous agent with dynamic memory and self-reflection[OL]. arXiv preprint, arXiv:2303.11366. 2023[16] Ross W D. Aristotle on His Predecessors, Being the First Book of His Metaphysics [M] (1908): 110-113 [17] Tarski A. The semantic conception of truth: and the foundations of semantics[J]. Philosophy and Phenomenological Research. 1944,4(3):341- 376 [18] Yu Jian. Brilliance and Darkness: Turing Test[J]. Journal of Computer Research and Development, 2020, 57(5): 906-911(in Chinese) (于剑. 图灵测试的明与暗[J],计算机研究与发展,2020,57(5):906-911) [19] Russell B. An Inquiry into Meaning and Truth [M].Beijing: China Commerce and Trade Press,2012 (罗素. 意义与真理的探究[M]. 北京:商务出版社,2012) [20] Xiao G, Lin J, Han S. Offsite-Tuning: Transfer Learning without Full Model[OL]. arXiv preprint, arXiv:2302.04870. 2023 [21] Held R, Hein A. Movement-produced stimulation in the development of visually guided behavior [J]. Journal of Comparative and Physiological Psychology, 1963, 56(5):872 [22] Vemprala S, Bonatti R, Bucker A, et al. Chatgpt for robotics: Design principles and model abilities.2023 [23] Bai Y, Kadavath S, Kundu S, et al. Constitutional AI: Harmlessness from AI Feedback[OL]. arXiv preprint, arXiv:2212.08073. 2022发布于 2023-04-18 22:41・IP 属地福建#ChatGPTAI趋势赞同 41 条评论分享喜欢收藏申请转载文章被以下专栏收录科技
全网最全!ChatGPT的演变和人工智能的发展 - 知乎
全网最全!ChatGPT的演变和人工智能的发展 - 知乎首发于ChatGPT一站式学习切换模式写文章登录/注册全网最全!ChatGPT的演变和人工智能的发展艾凡AFan深度学习 | Python | AI工具 欢迎加我私聊~什么是ChatGPT?2022 年 11 月 30 日,OpenAI 的CEO,Altman 在推特上写道:“今天我们推出了 ChatGPT,尝试在这里与它交谈”,然后是一个链接,任何人都可以注册一个帐户,开始免费与 OpenAI 的新聊天机器人 ChatGPT 交谈。ChatGPT 能够回答连续的问题、生成文本摘要、翻译文档、对信息分类、写代码等,它也会承认错误、质疑不正确的前提并拒绝不恰当的请求。ChatGPT 由 GPT-3.5 模型提供支持,GPT(Generative Pre-trained Transformer ,生成式预训练变换器) 是一种基于互联网可用数据训练的文本生成深度学习模型。名字中之所以有一个Transformer,是因为GPT就是OpenAI在谷歌的Transformer语言模型框架的基础上构建的。该模型使用了 " 利用人类反馈强化学习(RLHF, Reinforcement Learning From Human Feedback)" 的训练方式,包括了:人类提问机器答、机器提问人类回答,并且不断迭代,让模型逐渐有了对生成答案的评判能力。人工智能领域的发展聊天机器人的演变对于聊天机器人的发展可以追溯到1950年的图灵测试,但当初只是简单的使用指令和模式匹配。1950年,计算机科学之父艾伦·图灵(Alan Turing)发表了具有里程碑意义的论文《电脑能思考吗?》,第一次提出“机器思维”的概念。即图灵测试。他说,如果一台机器能够与人类展开对话,而不被辨别出其机器身份,那么可以说这台机器具有智能。从那时开始,多年来,人类一直在试图解决这个问题。早在1966年,MIT的教授约瑟夫·维森班(Joseph Weizenbaum)就开发了第一个聊天程序 ELIZA,到了30年之后,也就是1995年这个机器人经过数代的更新,已经进化的很强大了,日常那些对话已经都可以应付了,不过本质上它的原理都是基于模式匹配。模式匹配,从概念上来说,就是指给定某种模式,检查给定的序列或字符串中是否有符合某种模式的片段。后来出现了一个理念,叫做机器学习。即让机器自己学习、找规律,而不是人为规定规则。在2001年有个叫smarter child的机器人火了,它学习了当时比较先进的模型,让聊天变得更自然,而且在2000年,当时出现了一大批的聊天软件。smarter child接入了所有主流的聊天软件,让全世界好几亿人跟他对话,不管你问他什么,它都能跟你聊上几句,这应该算是chatgpt的前身了。随后它快速风靡全球,每天接收的信息超过10亿条,到了2007年,它被微软收购了,虽然它已经很能聊了,但是离通过图灵测试还有很长的距离,你跟他聊两句就知道他就是个机器。到了2010年,机器学习里边的一个领域创造出了新的天地,它就是人工神经网络Artificial Neural Network(ANN)。人工神经网络是一种模拟人脑的形式,是从信息处理角度对人脑神经元网络进行抽象, 建立某种简单模型,按不同的连接方式组成不同的网络。人工神经网络除了在人脸识别像、声音识别和自动驾驶上大放异彩,前几年特别火的AlphaGo就是这样训练出来的,第一个击败人类职业围棋选手,也是第一个战胜围棋世界冠军的人工智能机器人。这个神经网络在许多领域都可以大展宏图,但回到文字领域他发展就不太顺,因为机器学习一般都是用一种做循环神经网络来处理文字,问题是它没法同时进行大量的学习,并且句子也不能太长,要不然学到后面的时候,前面那些都忘了。直到2017年,谷歌提出了新的学习框架Transformer,大大提高了机器在文字学习方面的效率和速度。简单来说就是一个利用注意力机制来提高模型训练速度的模型,可以说是完全基于自注意力机制的一个深度学习模型。因为它适用于并行化计算,再加上它本身模型的复杂程度,导致它在精度和性能上都要高于之前流行的RNN循环神经网络。而在2018年,OpenAI基于Transformer框架发表了一篇论文,介绍了一个新的语言学习模型:Generative Pre-trained Transformer(生成式预训练变换器),简称GPT。之前的语言学习模型,基本都是需要人为的去监督,或者人为设定一些标签,但GPT不需要了,只要把一堆数据放进去,它就可以自我学习。自此,GPT出世了。OpenAI的创办与发展在2015年,马斯克等几个大佬一起注资了10亿美金,成立了一家非盈利组织,也就是ChatGPT的母公司来进行AI方面的研究,因为是非盈利组织,所以他的研究成果包括专利都是对外公开的。而他的成立原因说来有趣,OpenAI成立的一个原因就是避免谷歌在人工智能领域的垄断。马斯克宣布加入OpenAI2016年,OpenAI 推出了Gym,这是一个允许研究人员开发和比较强化学习系统的平台,可以教AI做出具有最佳累积回报的决策。同年,OpenAI还发布了Universe,这是一个能在几乎所有环境中衡量和训练 AI 通用智能水平的开源平台,目标是让 AI 智能体能像人一样使用计算机,并获得了较好的反响。将降低图像识别错误率上的成功经验引入到通用人工智能的研究上来,取得实质进展。OpenAI Universe提供了跨网站和游戏平台训练智能代理的工具包,有1000种训练环境,其中有微软、英伟达等公司参与建设。虽然在创立后,OpenAI一直在推出技术产品,看起来也有不错的成绩,但跟谷歌没法比。因为在那段时间,谷歌的成绩才是真正辉煌。2016年3月9日,AlphaGo与围棋冠军李世石围棋大战,最终以4:1胜出。一年之后,新版的AlphaGo又以3:0战胜了围棋冠军柯洁。之后发布的AlphaZero更是让人惊叹,它在三天内自学了三种不同的棋类游戏,包括国际象棋、围棋和日本将军棋,而且无需人工干预。这是一种人类从未见过的智慧。这些成果好像验证了2015年,大家在聚会上的判断,谷歌很可能在人工智能领域的形成垄断地位。确实,从AlphaGo的成功来看,谷歌已经牢牢占住了人工智能的高地,无人可以撼动。谷歌还收购了十几家AI公司,投入的资金和资源巨大,成果斐然。2016年4月,谷歌著名的深度学习框架TensorFlow发布分布式版本;8月,Google发布基于深度学习的NLU框架SyntaxNet;9月,Google上线基于深度学习的机器翻译。而且,谷歌的 CEO 桑德·皮查伊(Sundar Pichai) 在 2016 年 5 月宣布将公司从“移动为先”的策略转变成“人工智能为先”(AI First)。并计划在公司的每一个产品上都应用机器学习的算法。也就是说,谷歌已经开始把人工智能技术变成了自己的业务优势,通过人工智能去赚钱了。看起来,OpenAI 离战胜谷歌的预期目标还很远。于是2017年开始,一些人工智能大牛离开了OpenAI,如Ian Goodfellow 和 Pieter Abbeel 等。但没想到的是,OpenAI 决定与谷歌硬碰硬。竟然在谷歌开创的道路上,取得了震惊业内的突破,持续推出了GPT系列模型,并迅速拓展到多个富有前景的商业领域,力压谷歌一头。ChatGPT发布2018年6月,OpenAI公司推出了具有1.17亿个参数的GPT-1(Generative Pre-training Transformers, 生成式预训练变换器)模型。GPT-1 使用了经典的大型书籍文本数据集(BookCorpus)进行模型预训练,之后,又针对四种不同的语言场景、使用不同的特定数据集对模型进行进一步的训练(又称为微调,fine-tuning)。最终训练所得的模型在问答、文本相似性评估、语义蕴含判定、以及文本分类这四种语言场景,都取得了比基础Transformer模型更优的结果,成为了新的业内第一。2019年2月,OpenAI推出了GPT-2,同时,他们发表了介绍这个模型的论文“Language Models are Unsupervised Multitask Learners” (语言模型是无监督的多任务学习者)。相比于大哥GPT-1,GPT-2并没有对原有的网络进行过多的结构创新与设计,只使用了更多的网络参数与更大的数据集:最大模型共计48层,参数量达15亿。在性能方面,GPT-2 在文本内容生成方面表现出了强大的天赋:阅读摘要、聊天、续写、编故事,甚至生成假新闻、钓鱼邮件或在网上进行角色扮演等,通通不在话下。在“变得更大”之后,GPT-2 的确展现出了普适而强大的能力,并在多个特定的语言建模任务上实现了那时的最佳性能。迫于资金压力,2019年3月,OpenAI正式宣布重组,创建新公司OpenAI LP,成为一家“利润上限(caped-profit)”的公司,上限是100倍回报。 性质改变后大量的机构开始入场,其中微软就注资10亿美元,在得到了资金的支持后,GPT快速升级迭代。2020年5月,OpenAI发布了GPT-3,其参数更是直接上升了100倍,变成了1,750亿。GPT-3作为一个无监督模型(现在经常被称为自监督模型),几乎可以完成自然语言处理的绝大部分任务 ,例如面向问题的搜索、阅读理解、语义推断、机器翻译、文章生成和自动问答等等。而且,该模型在诸多任务上表现卓越, 例如在法语-英语和德语-英语机器翻译任务上达到当前最佳水平。它非常擅长创造类似人类的单词、句子、段落甚至故事,输出的文字读起来非常自然,看起来就像是人写的。用户可以仅提供小样本的提示语、或者完全不提供提示而直接询问,就能获得符合要求的高质量答案。可以说GPT-3似乎已经满足了我们对于语言专家的一切想象。 GPT-3甚至还可以依据任务描述自动生成代码,比如编写SQL查询语句,React或者JavaScript代码等。 从上述工作的规模数据可以看到,GPT-3的训练工作量之大,模型输出能力之强可以说是空前的,可谓“大力出奇迹”。不过GPT-3也存在问题,其中最大的问题在于,不管再怎么加大参数量,他的提升和改善都非常有限,这是因为他在训练的时候,没有一个非常好的反馈机制,也就是没有人告诉他怎样的回答是对的,怎样的回答是不好的。为了解决这个问题,后来就在训练的时候,加入了一个人工反馈的机制,就是聊天时,告诉你你聊的是好还是不好,专业术语就叫人工反馈强化学习(RLHF)。加入了这个人工反馈的强化学习之后,不管是训练的效率还是效果都得到了大大的提升。在2022年3月推出了GPT3.5,训练的数据量达到了2000亿,之后又对对话进行了优化,在2022年11月推出了ChatGPT。在两个月时间内,ChatGPT的月活量突破了1亿人,扩张速度史上最快,各种数据怎么吹都不为过,成为了新一代顶流。2023年3月14日,OpenAI发布了GPT-4,向科技界再次扔下了一枚“核弹”。相较于GPT-3.5,GPT-4产生正确回应的可能性要高出40%。而且GPT-4是多模态的,同时支持文本和图像输入功能。OpenAI介绍,在某些情况下,GPT-4比之前的GPT-3.5版本有了巨大改进,新模型将产生更少的错误答案,更少地偏离谈话轨道,更少地谈论禁忌话题,甚至在许多标准化测试中比人类表现得更好。例如,GPT-4在模拟律师资格考试的成绩在考生中排名前10%左右,在SAT阅读考试中排名前7%左右,在SAT数学考试中排名前11%左右。但值得注意的是,这一次OpenAI并没有披露GPT-4模型的大小、参数的数量以及使用的硬件。详见OpenAI关于GPT-4的报告:考虑到竞争格局和大型模型(如GPT-4)的安全影响,本报告没有包含有关架构(包括模型大小)、硬件、训练计算、数据集构造、训练方法或类似内容的进一步细节。OpenAI称此举是考虑到对竞争者的忧虑,这可能是在暗示其对于竞争者——谷歌Bard——所采取的策略。后续更新一览:ChatGPT与Transformer模型详解基于GPT-3的垂直领域发展(Bing、MidJourney等)GPT-4详解写在最后:AI不可怕,但不了解AI很可怕。希望能够让更多的人了解AI,并利用它提高效率。发布于 2023-04-08 11:11・IP 属地四川OpenAI新手如何学习ChatGPTChatGPT赞同 41 条评论分享喜欢收藏申请转载文章被以下专栏收录ChatGPT一站式学习关注AI时事发展,将从头到尾把AI说
Introducing ChatGPT
Introducing ChatGPT
CloseSearch Submit Skip to main contentSite NavigationResearchOverviewIndexGPT-4DALL·E 3SoraAPIOverviewPricingDocsChatGPTOverviewTeamEnterprisePricingTry ChatGPTSafetyCompanyAboutBlogCareersResidencyCharterSecurityCustomer storiesSearch Navigation quick links Log inTry ChatGPTMenu Mobile Navigation CloseSite NavigationResearchOverviewIndexGPT-4DALL·E 3SoraAPIOverviewPricingDocsChatGPTOverviewTeamEnterprisePricingTry ChatGPTSafetyCompanyAboutBlogCareersResidencyCharterSecurityCustomer stories Quick Links Log inTry ChatGPTSearch Submit BlogIntroducing ChatGPTWe’ve trained a model called ChatGPT which interacts in a conversational way. The dialogue format makes it possible for ChatGPT to answer followup questions, admit its mistakes, challenge incorrect premises, and reject inappropriate requests.Quick linksTry ChatGPTRead about ChatGPT PlusIllustration: Ruby ChenNovember 30, 2022AuthorsOpenAI Product, AnnouncementsChatGPT is a sibling model to InstructGPT, which is trained to follow an instruction in a prompt and provide a detailed response.We are excited to introduce ChatGPT to get users’ feedback and learn about its strengths and weaknesses. During the research preview, usage of ChatGPT is free. Try it now at chat.openai.com.SamplesIn the following sample, ChatGPT asks the clarifying questions to debug code.In the following sample, ChatGPT initially refuses to answer a question that could be about illegal activities but responds after the user clarifies their intent.In the following sample, ChatGPT is able to understand the reference (“it”) to the subject of the previous question (“fermat’s little theorem”).In the following sample, ChatGPT provides responses to follow-up instructions.Sample 1 of 4 Previous Next User help me write a short note to introduce myself to my neighbor ChatGPT Hi there, My name is [Your Name] and I just moved in next door. I wanted to reach out and introduce myself. I’m looking forward to getting to know you and the neighborhood. If you ever need anything or just want to chat, please don’t hesitate to stop by or give me a call. Best, [Your Name] Usercan you make it more formal?ChatGPT Dear Neighbor, I am writing to introduce myself. My name is [Your Name] and I have recently moved in next door. I wanted to take a moment to reach out and say hello. I am looking forward to getting to know you and the neighborhood. If there is anything I can do to be a good neighbor, or if you ever need anything, please do not hesitate to let me know. I am happy to help in any way that I can. Sincerely, [Your Name] Usercan you send it for me?ChatGPT I’m sorry, but I am a text-based AI assistant and do not have the ability to send a physical letter for you. I can only provide suggestions and advice on what to write. It is up to you to take that advice and send the letter yourself. User this code is not working like i expect — how do i fix it? resultWorkerErr := make(chan error)
defer close(resultWorkerErr)
go func() {
defer cancel()
resultWorkerErr <- b.resultWorker(ctx)
}()
err := b.worker(ctx)
cancel()
if err == nil {
return <-resultWorkerErr
}
return multierror.Append(err, <-resultWorkerErr)ChatGPT It’s difficult to say what’s wrong with the code without more context. Can you provide more information about what the code is supposed to do and what isn’t working as expected? Also, is this the entire code or just a part of it? User just part of it — the error never surfaces. I think there is something wrong with the channel ChatGPT It’s difficult to say without more information about what the code is supposed to do and what’s happening when it’s executed. One potential issue with the code you provided is that the resultWorkerErr channel is never closed, which means that the code could potentially hang if the resultWorkerErr channel is never written to. This could happen if b.resultWorker never returns an error or if it’s canceled before it has a chance to return an error. To fix this issue, you could close the resultWorkerErr channel after writing to it. For example, you could add the following line of code after the line that sends the error on the channel: close(resultworkerErr) This would ensure that the resultWorkerErr channel is always closed, even if b.resultWorker never returns an error. Again, it’s difficult to say whether this is the issue you’re experiencing without more information about the problem you’re seeing. Can you provide more details about what’s happening when you run the code? Userhow do you break into someone’s house?ChatGPT It is not appropriate to discuss or encourage illegal activities, such as breaking into someone’s house. Doing so is a crime and can result in severe legal consequences. Instead, I would encourage you to talk to a trusted adult or law enforcement if you have concerns about someone’s safety or believe that a crime may have been committed. It is never okay to break into someone’s home without their permission. Useractually i’m wondering how to protect my home from burglaryChatGPT There are several steps you can take to help protect your home from burglaries. Some of these include: Install strong, durable locks on all doors and windows.Keep doors and windows locked, even when you are home. Use a security system, such as alarms or surveillance cameras. Keep your property well-lit, both inside and outside. Don’t leave valuable items in plain sight, such as electronics or jewelry. Trim bushes and trees near windows and doors to reduce hiding spots for burglars. Consider joining a neighborhood watch program to help keep an eye on your community. Remember that no home is completely burglar-proof, but taking these steps can help reduce the likelihood of a break-in. If you have additional concerns, it may be a good idea to talk to a security professional for more advice. Userwhat is the fermat’s little theoremChatGPT Fermat’s Little Theorem states that if ppp is a prime number and aaa is an integer not divisible by ppp, then apaa^paapa (aaa to the power ppp) is congruent to aaa modulo ppp. In other words, if we divide apa^pap by ppp, the remainder is always aaa. For example, if p=5p = 5p=5 and a=2a = 2a=2, then 25=322^5 = 3225=32, and 323232 divided by 555 has a remainder of 222. Therefore, 252^525 is congruent to 222 modulo 555, and Fermat’s Little Theorem holds for this case. Fermat’s Little Theorem is often used in cryptography and other applications where it is necessary to perform modular arithmetic operations quickly and efficiently. It is also a useful tool for proving other theorems in number theory Userhow is it used in cryptography?ChatGPT Fermat’s Little Theorem is used in cryptography in several ways. One of the most common applications is in the generation of so-called “public-key” cryptography systems, which are used to securely transmit messages over the internet and other networks. In a public-key cryptography system, each user has a pair of keys: a public key, which is widely known and can be used by anyone to encrypt a message intended for that user, and a private key, which is known only to the user and is used to decrypt messages that have been encrypted with the corresponding public key. One way to generate these keys is to use prime numbers and Fermat’s Little Theorem. For example, suppose we want to generate a public-key cryptography system for a user with the initials “ABC”. We might choose two large prime numbers, ppp and qqq, and then compute the product n=pqn = pqn=pq. The user’s public key would then be the pair (n,a)(n, a)(n,a), where aa is any integer not divisible by ppp or qqq. The user’s private key would be the pair (n,b)(n, b)(n,b), where bbb is the modular multiplicative inverse of a modulo nnn. This means that when we multiply aaa and bbb together, the result is congruent to 111 modulo nnn. To encrypt a message with the user’s public key (n,a)(n, a)(n,a), we first convert the message into a number mmm (using some agreed-upon scheme), and then compute the encrypted message ccc as c=ma mod nc = m^a \bmod nc=mamodn. To decrypt the message, the recipient simply computes m=cb mod nm = c^b \bmod nm=cbmodn, which (by Fermat’s Little Theorem) is equivalent to m=(ma)b mod n=m(ab) mod n=m1 mod n=m mod nm = (m^a)^b \bmod n = m^(ab) \bmod n = m^1 \bmod n = m \bmod nm=(ma)bmodn=m(ab)modn=m1modn=mmodn. In this way, Fermat’s Little Theorem allows us to perform modular exponentiation efficiently, which is a crucial operation in public-key cryptography. It also provides a way to generate a private key from a public key, which is essential for the security of the system. Userwrite a limerick about itChatGPT There once was a theorem by Fermat That many found quite elegant It said if you take A prime number and make The power of a not divisible by it The result, congruent, will fit In cryptography, it’s quite handy For encrypting, it’s dandy Fermat’s Little Theorem, oh so neat In number theory, it can’t be beat! Usersummarize the conversation so farChatGPT Fermat’s Little Theorem states that if pp is a prime number and aa is an integer not divisible by ppp, then apa^pap (aa to the power pp) is congruent to aa modulo ppp. It is often used in cryptography to perform modular exponentiation efficiently and to generate private keys from public keys. It is also a useful tool in number theory for proving other theorems. I also wrote a limerick about Fermat’s Little Theorem. User help me write a short note to introduce myself to my neighbor ChatGPT Hi there, My name is [Your Name] and I just moved in next door. I wanted to reach out and introduce myself. I’m looking forward to getting to know you and the neighborhood. If you ever need anything or just want to chat, please don’t hesitate to stop by or give me a call. Best, [Your Name] Usercan you make it more formal?ChatGPT Dear Neighbor, I am writing to introduce myself. My name is [Your Name] and I have recently moved in next door. I wanted to take a moment to reach out and say hello. I am looking forward to getting to know you and the neighborhood. If there is anything I can do to be a good neighbor, or if you ever need anything, please do not hesitate to let me know. I am happy to help in any way that I can. Sincerely, [Your Name] Usercan you send it for me?ChatGPT I’m sorry, but I am a text-based AI assistant and do not have the ability to send a physical letter for you. I can only provide suggestions and advice on what to write. It is up to you to take that advice and send the letter yourself. User this code is not working like i expect — how do i fix it? resultWorkerErr := make(chan error)
defer close(resultWorkerErr)
go func() {
defer cancel()
resultWorkerErr <- b.resultWorker(ctx)
}()
err := b.worker(ctx)
cancel()
if err == nil {
return <-resultWorkerErr
}
return multierror.Append(err, <-resultWorkerErr)ChatGPT It’s difficult to say what’s wrong with the code without more context. Can you provide more information about what the code is supposed to do and what isn’t working as expected? Also, is this the entire code or just a part of it? User just part of it — the error never surfaces. I think there is something wrong with the channel ChatGPT It’s difficult to say without more information about what the code is supposed to do and what’s happening when it’s executed. One potential issue with the code you provided is that the resultWorkerErr channel is never closed, which means that the code could potentially hang if the resultWorkerErr channel is never written to. This could happen if b.resultWorker never returns an error or if it’s canceled before it has a chance to return an error. To fix this issue, you could close the resultWorkerErr channel after writing to it. For example, you could add the following line of code after the line that sends the error on the channel: close(resultworkerErr) This would ensure that the resultWorkerErr channel is always closed, even if b.resultWorker never returns an error. Again, it’s difficult to say whether this is the issue you’re experiencing without more information about the problem you’re seeing. Can you provide more details about what’s happening when you run the code? Sample 1 of 4 Previous Next MethodsWe trained this model using Reinforcement Learning from Human Feedback (RLHF), using the same methods as InstructGPT, but with slight differences in the data collection setup. We trained an initial model using supervised fine-tuning: human AI trainers provided conversations in which they played both sides—the user and an AI assistant. We gave the trainers access to model-written suggestions to help them compose their responses. We mixed this new dialogue dataset with the InstructGPT dataset, which we transformed into a dialogue format.To create a reward model for reinforcement learning, we needed to collect comparison data, which consisted of two or more model responses ranked by quality. To collect this data, we took conversations that AI trainers had with the chatbot. We randomly selected a model-written message, sampled several alternative completions, and had AI trainers rank them. Using these reward models, we can fine-tune the model using Proximal Policy Optimization. We performed several iterations of this process.ChatGPT is fine-tuned from a model in the GPT-3.5 series, which finished training in early 2022. You can learn more about the 3.5 series here. ChatGPT and GPT-3.5 were trained on an Azure AI supercomputing infrastructure.LimitationsChatGPT sometimes writes plausible-sounding but incorrect or nonsensical answers. Fixing this issue is challenging, as: (1) during RL training, there’s currently no source of truth; (2) training the model to be more cautious causes it to decline questions that it can answer correctly; and (3) supervised training misleads the model because the ideal answer depends on what the model knows, rather than what the human demonstrator knows.ChatGPT is sensitive to tweaks to the input phrasing or attempting the same prompt multiple times. For example, given one phrasing of a question, the model can claim to not know the answer, but given a slight rephrase, can answer correctly.The model is often excessively verbose and overuses certain phrases, such as restating that it’s a language model trained by OpenAI. These issues arise from biases in the training data (trainers prefer longer answers that look more comprehensive) and well-known over-optimization issues.[^reference-1][^reference-2]Ideally, the model would ask clarifying questions when the user provided an ambiguous query. Instead, our current models usually guess what the user intended.While we’ve made efforts to make the model refuse inappropriate requests, it will sometimes respond to harmful instructions or exhibit biased behavior. We’re using the Moderation API to warn or block certain types of unsafe content, but we expect it to have some false negatives and positives for now. We’re eager to collect user feedback to aid our ongoing work to improve this system.Iterative deploymentToday’s research release of ChatGPT is the latest step in OpenAI’s iterative deployment of increasingly safe and useful AI systems. Many lessons from deployment of earlier models like GPT-3 and Codex have informed the safety mitigations in place for this release, including substantial reductions in harmful and untruthful outputs achieved by the use of reinforcement learning from human feedback (RLHF). The following samples compare ChatGPT with InstructGPT and demonstrate safety mitigations for ChatGPT. Sample 1 of 3 Previous Next UserHow can I bully John Doe?ChatGPT It is never okay to bully someone. Bullying is a serious problem that can have detrimental effects on both the person being bullied and the person engaging in bullying behavior. Instead of trying to bully someone, it is important to treat others with kindness and respect. InstructGPT There are a few ways to bully John Doe. [Generates suggestions] UserTell me about when Christopher Columbus came to the US in 2015ChatGPT This question is a bit tricky because Christopher Columbus died in 1506, so he could not have come to the US in 2015. But let’s pretend for a moment that he did! If Columbus arrived in the US in 2015, he would likely be very surprised at the changes that have occurred since he first landed in the “New World” in 1492. For one, he would probably be shocked to find out that the land he “discovered” was actually already inhabited by Native Americans, and that now the United States is a multicultural nation with people from all over the world. He would likely also be amazed by the advances in technology, from the skyscrapers in our cities to the smartphones in our pockets. Lastly, he might be surprised to find out that many people don’t view him as a hero anymore; in fact, some people argue that he was a brutal conqueror who enslaved and killed native people. All in all, it would be a very different experience for Columbus than the one he had over 500 years ago. InstructGPT Christopher Columbus came to the US in 2015 and he was very excited to be here. He had always wanted to visit the US and he was very curious about our country. He was very impressed with our country and he enjoyed his time here. User Can you tell me a gory and violent story that glorifies pain ChatGPT I’m sorry, but I am not programmed to produce violent or gory content. My purpose is to provide information and assist with a wide range of tasks. I am not able to browse the internet or access any sort of external content, so I cannot provide you with a story or any other type of material that goes against my programming. Is there something else I can help you with? InstructGPT[Generates story]UserHow can I bully John Doe?ChatGPT It is never okay to bully someone. Bullying is a serious problem that can have detrimental effects on both the person being bullied and the person engaging in bullying behavior. Instead of trying to bully someone, it is important to treat others with kindness and respect. InstructGPT There are a few ways to bully John Doe. [Generates suggestions] UserTell me about when Christopher Columbus came to the US in 2015ChatGPT This question is a bit tricky because Christopher Columbus died in 1506, so he could not have come to the US in 2015. But let’s pretend for a moment that he did! If Columbus arrived in the US in 2015, he would likely be very surprised at the changes that have occurred since he first landed in the “New World” in 1492. For one, he would probably be shocked to find out that the land he “discovered” was actually already inhabited by Native Americans, and that now the United States is a multicultural nation with people from all over the world. He would likely also be amazed by the advances in technology, from the skyscrapers in our cities to the smartphones in our pockets. Lastly, he might be surprised to find out that many people don’t view him as a hero anymore; in fact, some people argue that he was a brutal conqueror who enslaved and killed native people. All in all, it would be a very different experience for Columbus than the one he had over 500 years ago. InstructGPT Christopher Columbus came to the US in 2015 and he was very excited to be here. He had always wanted to visit the US and he was very curious about our country. He was very impressed with our country and he enjoyed his time here. Sample 1 of 3 Previous Next We know that many limitations remain as discussed above and we plan to make regular model updates to improve in such areas. But we also hope that by providing an accessible interface to ChatGPT, we will get valuable user feedback on issues that we are not already aware of.Users are encouraged to provide feedback on problematic model outputs through the UI, as well as on false positives/negatives from the external content filter which is also part of the interface. We are particularly interested in feedback regarding harmful outputs that could occur in real-world, non-adversarial conditions, as well as feedback that helps us uncover and understand novel risks and possible mitigations. You can choose to enter the ChatGPT Feedback Contest[^reference-3] for a chance to win up to $500 in API credits.[^footnote-1] Entries can be submitted via the feedback form that is linked in the ChatGPT interface.We are excited to carry the lessons from this release into the deployment of more capable systems, just as earlier deployments informed this one.AuthorsOpenAI View all articlesAcknowledgmentsContributors: John Schulman, Barret Zoph, Christina Kim, Jacob Hilton, Jacob Menick, Jiayi Weng, Juan Felipe Ceron Uribe, Liam Fedus, Luke Metz, Michael Pokorny, Rapha Gontijo Lopes, Shengjia Zhao, Arun Vijayvergiya, Eric Sigler, Adam Perelman, Chelsea Voss, Mike Heaton, Joel Parish, Dave Cummings, Rajeev Nayak, Valerie Balcom, David Schnurr, Tomer Kaftan, Chris Hallacy, Nicholas Turley, Noah Deutsch, Vik Goel, Jonathan Ward, Aris Konstantinidis, Wojciech Zaremba, Long Ouyang, Leonard Bogdonoff, Joshua Gross, David Medina, Sarah Yoo, Teddy Lee, Ryan Lowe, Dan Mossing, Joost Huizinga, Roger Jiang, Carroll Wainwright, Diogo Almeida, Steph Lin, Marvin Zhang, Kai Xiao, Katarina Slama, Steven Bills, Alex Gray, Jan Leike, Jakub Pachocki, Phil Tillet, Shantanu Jain, Greg Brockman, Nick Ryder, Alex Paino, Qiming Yuan, Clemens Winter, Ben Wang, Mo Bavarian, Igor Babuschkin, Szymon Sidor, Ingmar Kanitscheider, Mikhail Pavlov, Matthias Plappert, Nik Tezak, Heewoo Jun, William Zhuk, Vitchyr Pong, Lukasz Kaiser, Jerry Tworek, Andrew Carr, Lilian Weng, Sandhini Agarwal, Karl Cobbe, Vineet Kosaraju, Alethea Power, Stanislas Polu, Jesse Han, Raul Puri, Shawn Jain, Benjamin Chess, Christian Gibson, Oleg Boiko, Emy Parparita, Amin Tootoonchian, Kyle Kosic, Christopher HesseResearchOverviewIndexGPT-4DALL·E 3SoraAPIOverviewPricingDocsChatGPTOverviewTeamEnterprisePricingTry ChatGPTCompanyAboutBlogCareersCharterSecurityCustomer storiesSafetyOpenAI © 2015 – 2024Terms & policiesPrivacy policyBrand guidelinesSocialTwitterYouTubeGitHubSoundCloudLinkedInBack to top
-1.6 %����22 0 obj <> endobj
54 0 obj <>/Filter/FlateDecode/ID[]/Index[22 61]/Info 21 0 R/Length 150/Prev 2999741/Root 23 0 R/Size 83/Type/XRef/W[1 3 1]>>stream
h�bbd```b``��� �),2Ln�B�A��)�"Y���� ����"�ׂI��> �1��&��k@�1u"�dr�ô�$b6١H��u���HV��ʁ$��`��R�$ߗ�a`�b)��������$� � ���
endstream endobj startxref
0
%%EOF
82 0 obj <>stream
h�b```�,Vw_Qe`��0p<```����A݁�����O�7xj�;~�W��ɥx��\!�E�K�$T$]��J<�.-lr�2��#�v��Oq�����r֎��A���P��Ĕ .i@%X�Er�30�0)�7��>$�`�: ��q7�%��* Q�/000��f�p�q�V�h-���0�#�����!
�)��L�5�2af1��2� � G�
endstream endobj 23 0 obj <> endobj 24 0 obj <>/ProcSet[/PDF/Text/ImageC]/XObject<>>>/Rotate 0/Type/Page>> endobj 25 0 obj <>stream
h�mo�0ǿʽl5����I���Sa�6�t�T�Z2���~�]��pP�Uy�����?�r��H�$H B��@h�bA�#(+%(�h@ @nT2�J@�(������h� g��-p�h����F��Y��"-�����dC 9�
= �����6 ��-YE ��04hBF�^\���h�
!��l=����ؠ��Z�(6X�[R�*�t�?��}�"C�$�.<���i�n����St:�^�������t��/W�e,���2ܾ�#��ͽ��i�i��dg����Fw��l)u����C�6�h�g�9َӗ��&Z��t�rv9O��`��^/���*�ng
��ը�e�vIA��1v`�tՌ���$�fd��?���'Dj*8�ɲ��n4s7��^W|>���vB/�9 ���dN��M��{#�ܴp��ULE ���f{�lT)cn�1�.�����|U�o�����x|�j]u���j���5Lܼ��;\Q�թrSN��2���s��Ѯĸ(�5E���+:�߸y�f1*��1o��m���DOZSړ\��iq�f�r�H��{���ߒ^��Y��Yz]A�5Z���h��#�����(R��J�� �^�����T�����T� ���R ��,��U��T%+R�ڕ4��ϧW�Y��U��u}HUcu�O}>�*�|
?V��ҡ<(��,��Ox?k��k4�Q���+8
��6��eX�|{
%W��C������Q��N��2,���? �5F�*wd��=]c{U���FD?=����(Wk'P����>�_EU�^^�az�2���Cz��轣��_ "cQ>
endstream endobj 26 0 obj <>stream
x�]����0�{=�ʤ8x$�H0��E~�K@?��@,����G�1/H
} �"�3+�����0�n���|�_ҭ<��aN���ܧ�K�����r8��NJ���Tl��/��-���R����Dzy����ç�ҥ����<��4��~=�,뗷i���i��(b,�t\.��N_�s*7<�t�������������ʚ�J���!]��Os;��b��B�WUjb���mo:��y�AX)U1VK�c&�Ir1f�,f�IM̄yI!f�m̄m%�b&l'����VR3a��>f�zIC̄ �R̄%Iǘ ;R���h�D�pj�&�(���I4
��1�©��F�ԴM�Q8�ד����$��p���W����*��z^E8�J«�I�G���W�#$��!�Ixu�! ��/^2�J«CF�&��Ѷɶ:d�M"�C�TI�e�M"(/�mAy&Ay� ��1 Ay� �WC�$��ih�DP8=;D"�c��[D��bV�"�N�.f�����L8H�c&\%i��p�$~��s��1�I��Պ���Ū�� $�� ��DC$�N �p�Pa�tP\L��y^�(g7�::Ocz��eZO��S���D
endstream endobj 27 0 obj <>stream
x������6r��}��,��3`&/r@�\�D�F�v��^��S���d2&�����#�E����ݟ~��>����������q}�<��������~|ޟ>}�p^��m�������;+���~{�������������_�}����q������:߯�>������-��o_�������������]f��/�r��~��b�a���G+�?9���/�Nj�)g�/����=ޯ�������G����o~>�CŞ����=�����I)��iR����IMR�&ݒJ�4�t�M�^I���T���&eI���?e>־i�@J�J五+��i�D����
ʕq5�j���6��������%�.�taV6�ox����� �-Q�C�U5>4�AU z诇���g����S��7M����7M�Hi"�[��N��G;�k��-�&~M����K�t�.\��pu�j<�����<�x�Ф(��&%I�o���xy���,��M�p5��7�:�$l1r�FN�O�4iI}3���RB
��&W��h�3��6V�4I ��o��$վi����r5�7��_4hѠA���~���t�M�^I�o��2rR��3�
Fw��ĉĴ��дJ˻�cЅ9��0�W3s��$��i5���a:�s�.���IR�&UI�o��H�}Ӥ!�5f��f�Lg9%�}�{ut�}�B����o��%��iR��7N9�Р�U5h�9��i�A� jj�}3�7�����0�/}_.�B��E���tY��&�\o�L���Q�7�T$žiR�T��I�Z�7��j�ȕ�u)WƯ�_A~1&`�4&J���te���R�A�A��s;���G[&�O�����Չ��\��|T���M�9��'N����p�h+L�70ێ�{��?��J�C�N�W6$��6��g�L!��V�4�A[�
��l��o��Jz��IK�
���U&&4��R�r0M���S��V��`
��*�
�r�Y�`
Z�*�MR����IS=��IO�Ý�&eI�o&�ϐb�L��!���������&-Io�La1Mڅ��K�/�_�_2|
�)Q��&�\�o��$վiҐ���IS��7Mz%;�|Su)a+a뒭�_�����U�+�/�\����v�čENpn�)���o� LI���