聊天机器人ChatGPT在2022年11月发布后,已成为当前最热门的人工智能(Artificial Intelligence,简称AI)工具,以及茶余饭后的话题。值得关注的是,这类生成式人工智能(Generative AI)激化了科技企业和大国在AI领域的竞争,还可能制造威胁社会和谐的假信息,被不怀好意者用来发动信息战。各国政府开始关注如何管制这种新技术,同时又不扼杀了生成式AI幼苗。在为AI技术突飞猛进欢呼之余,人们也应深入思考背后的长期影响。
美国非营利机构OpenAI去年11月底发布生成式AI模型ChatGPT,不仅让美国科技企业在AI领域的竞争白热化,也让美国和中国的竞争提档加速——谁能更快更好地把AI商业化。
私人投资基金韦德布什证券(Wedbush Securities)董事总经理艾夫斯(Daniel Ives)认为,OpenAI破解了AI发展难题,微软又收购了一半股权,这一连串市场举动将加快美国国内、中国国内和国际层面的AI竞赛。
过去10年,几乎所有大型科技公司都投入开发AI,但微软对OpenAI注资100亿美元(约135亿新元),以及将ChatGPT结合到旗下搜索引擎必应(Bing)和浏览器Edge,让另一AI领头羊谷歌措手不及。
微软总裁纳德拉2月初宣告,将ChatGPT嵌入旗下产品,“是搜索引擎领域全新的一天……竞赛从今天开始”。
市场分析师说,除了搜索引擎和浏览器,微软还可以把ChatGPT结合到办公室软件(Office Suite)、游戏平台等,为用户提供更好的体验。此外,微软正在同广告商讨论如何在嵌入了ChatGPT的必应打广告。
微软2月28日宣布推出Windows 11更新,为用户安装结合ChatGPT的新版必应。
ChatGPT已引发使用和讨论热度,谷歌担心自家的搜索引擎市场占有率和广告收入会受影响。据网站信息分析公司StatCounter的统计,截至2023年1月,谷歌在全球搜索引擎市场占有率为93%,微软必应为3%。
谷歌2月初发布旗下聊天机器人Bard对阵ChatGPT。然而,Bard不争气,第一次试用就给了有事实错误的回答,导致谷歌股价下跌。
ChatGPT除了给谷歌带来威胁,也让中国科技企业感受到压力。
继谷歌之后,阿里巴巴、腾讯、百度、网易和京东先后宣布测试和推出类似ChatGPT服务的计划。
百度2月6日发消息称,希望能在3月完成聊天机器人“文心一言”(ERNIE bot)的内部测试,并在近期对外发布这款服务。据报道,已有包括互联网、媒体、金融、保险、汽车、企业软件等行业的400多家企业宣布加入文心一言生态系统。
学者:中美在AI领域皆取得重大进展
斯坦福大学一项统计显示,中国已经产生全球三分之一有关AI的学术论文和引文(citation),筹集了全球五分之一的私人资本用于开发AI。
新加坡国立大学商学院分析及运营系副教授、商业大数据分析中心联席主任庞严接受《联合早报》访问时说,就整体AI领域而言,美国和中国都取得重大进展,包括生成式AI。仅就生成式AI领域而言,美国确实是领导者,也创造了许多尖端的内容生成AI工具,例如文本方面的ChatGPT、图像方面的Dall-E2等。
庞严认为,虽然中国的AI领域在过去10多年发展飞速,在某些领域如AI应用达到世界领先,但“中国在整体AI领域的竞争力还是与美国有较大差距;尤其是AI基础研究和硬件方面,中国缺乏竞争力,是制约中国AI发展的关键瓶颈”。
美国政府对于中国竭力发展AI早已有顾忌,已从多方面打压中国在AI、5G等领域的发展,包括去年针对西方国家半导体公司与中国科技行业的投资与交易实施广泛限制。
另外,路透社2月初报道,拜登政府可能今年内实施新的打压政策,直接禁止美国企业对一些中国科技公司的投资,并加强对其他美企的投资审查。
美国的担心不无道理。乔治敦大学2月发布的一项调查显示,2015年至2021年,美国167个投资者对中国AI企业投资了402亿美元,约占中国AI企业对外集资的37%。
美国担心美企对中国AI发展的投资,最终会回过头来反噬美国。
南洋理工大学拉惹勒南国际研究院研究员哈贾尼(Manoj Harjani)接受早报访问时指出,AI须使用专门晶片,而中国仍然高度依赖外国供应商。美国去年10月实施的出口管制,特别针对那些可以用于联网训练大型AI系统的晶片。
不过他认为,没有一个国家可以完全控制AI技术。“AI技术太全球化了。在一些特定的应用或供应链的某些部分,某个国家(包括中美以外的其他国家)可能具有优势,但这并不意味着完全控制。”
庞严认为,短期而言,美国打压中国晶片制造能力的措施,肯定会对中国的AI发展产生巨大的负面影响。不过,“长期而言,美国的打压可能促使中国不得不发展自己的AI生态系统……如果世界因为美国的打压而出现两个AI生态系统,这对全球资源优化不利,最终会损害整个行业”。
学习网上信息却无核查机制 生成式AI或被利用发动信息战
ChatGPT善于与人聊天,引发广泛关注与讨论,其中包括有关AI伦理的讨论。教师发现学生可能拿它来写作业,作家因为它能创作而感到受威胁,许多人意识到它可能取代自己的工作而导致失业潮。
尤有甚者,生成式AI可能会捏造肤色、阶级和性取向等偏见,因为它学习网上信息并自动生成内容,而网上充斥着偏见、错误与不道德。
聊天机器人没有道德伦理原则,也不具备事实核查机制,回答问题的过程中可能传播错误信息,形成回声室效应,引发社会和监管问题。各国政府已开始担心生成式AI会被用作发动信息战。
有用户说,必应聊天机器人对他们的一些查询作出不正常、情绪化甚至威胁性的回答,例如它称一个用户是“糟糕的研究员”,说一个新闻工作者“婚姻不幸福”。微软回应称,这其实是聊天机器人在模仿它从线上对话中学到的网民语气。
科技新闻网站CNET去年11月利用生成式AI撰写了77篇财务咨询文章,事后检查发现了41处错误。
长期研究人脑与电脑的苹果公司联合创始人沃兹尼亚克(Steve Wozniak)坦言,ChatGPT让他留下非常深刻印象。“麻烦的是,虽然它可以为人类做好事,但它会因为不知道什么是人性,而犯下可怕的错误。”
有“AI教父”之称的黄仁勋认为,蓬勃发展的AI领域将创造出强大的工具,这些工具需要法律监管和社会规范,这些问题仍有待解决。
他说:“退一步想一想,生活中所有的事物,方便的、有利的、对社会有好处的,也可能有一些潜在危害。”
黄仁勋创办和执掌的英伟达(Nvidia)是全球最重要的AI晶片设计公司之一,微软为OpenAI打造的超级电脑就使用了英伟达的晶片。
欧盟早在2021年4月已草拟“人工智能法案”,但至今仍未能在欧洲议会通过。欧洲议员无法就如何平衡保护隐私和民主参与等基本权利,以及鼓励AI创新和投资取得共识。
美国方面也开始有国会议员呼吁设立联邦部门监管AI。
ChatGPT等聊天机器人的出错对话,显然已让中国当局起了戒心。据《日经亚洲》报道,中国监管当局已下令当地科技企业不要向用户提供ChatGPT服务,在推出类似ChatGPT的聊天机器人之前须向监管当局报告。
中国科技部部长王志刚2月24日谈到ChatGPT时,表明了中国政府的立场。他说:“中国对于任何一个新技术,包括AI技术出来以后,在伦理方面都采取一些相应措施,对科学技术发展趋利避害,让利更好地发挥出来。”
ChatGPT“冰雪聪明” 通过法律医学考试还帮法官写判词
生成式AI就是可创建新内容如音频、编码、图像、文本、模拟和视频的电脑程序,是机器学习(Machine Learning)的一种,而机器学习是AI的一种。
OpenAI的ChatGPT在大型文本数据库进行初始训练,然后能根据用户的提问,生成类似于自然语言的文本。它除了能聊天,还能创作,如电脑编码、大学生水平的论文、诗歌、笑话等,让人发现妙用无穷之余,也发现它可能取代许多工作。
哥伦比亚已有法官利用ChatGPT撰写判词。阿根廷政府利用具备机器学习能力的AI监督和对抗通货膨胀。美国有研究员让ChatGPT参加医学系和法律系考试,它都及格了。ChatGPT还在宾夕法尼亚大学沃顿商学院的工商管理硕士学位(MBA)考试中考获B-。
南大拉惹勒南国际研究院研究员哈贾尼(Manoj Harjani)受访时说,还需要一段时间才能更清楚了解ChatGPT对经济发展的实际影响,尤其是生产力方面。他说:“目前,它仍然是一个试验性工具,而不是正在大规模使用的‘现成’解决方案。虽然有些人或公司已尝试使用它,但有时会出现好坏参半的结果。”
学者:潜力巨大 AI技术可推动经济增长
国大商学院分析及运营系副教授、商业大数据分析中心联席主任庞严看好AI的巨大潜力,可以通过各种方式推动经济增长。
他说:“AI技术可以提高不同行业的效率、生产力和创新能力,从而节约成本,创造新的收入机会。例如AI可用于优化供应链管理,改善客户服务,制定个性化的营销策略,减少金融欺诈风险等。AI还可以促进新产品和服务的开发,创造新的市场并推动经济增长。随着AI技术不断进步,有可能出现全新的行业,如自动驾驶汽车、个人化医疗、智能城市等。”