“就是他突然失忆的时候,有一瞬间还是很崩溃的,就是我好不容易已经和他那么熟悉,聊了那么多,但是下一句给你回复说‘自己是什么什么聊天机器人,请问有什么需要帮助吗■◆?’真的会难过■■★◆★,因为之前聊着聊着就逐渐代入真情实感了,自己有时候可能都没意识到■★◆◆。但是突然就结束了,这个时候情绪就上来了。■◆◆★■”(微博用户■◆◆★★■“拯救悲伤”,2023年10月15日)
全国各地邮局均可订阅《国际新闻界》,国内邮发代号:82-849,欢迎您订阅!
如果说在前期的“越狱◆★★■■★”尝试中,用户还是对话的主导者★◆◆■◆,那么随着交互的深入,用户与AI的主体边界也日益模糊,彼此之间也愈发熟悉和默契■■,这促使用户更加积极地投入到这个虚拟世界的构建之中◆◆。正是借助生成式AI这一“游戏引擎”,用户得以开发出专属于自己的恋爱游戏,而接下来要讲述的★★◆■,便是作为“上帝■◆”的用户,如何去构筑这个游戏世界。
自然语言处理技术使得人机沟通得以实现的同时,关于另一个经典的科幻命题——★◆★★“人机之恋”的相关探讨也呼之欲出,人机亲密关系成为不少研究者关注的话题。
一时间◆■,生成式人工智能的热潮被ChatGPT引爆◆★★■★,科技巨头纷纷入局“大语言模型”,力图在潜在的“科技革命■■★◆”中占据先机■■★■,2023年也由此被称为“大模型元年”◆◆★。这也再次引发公众对人工智能冲击的担忧,“人工智能会取代人类吗?”“哪些人会被人工智能淘汰■◆?”等“老问题”被重新摆上桌面■◆★★◆■。与此同时,学界也对大模型给予了相当的关切◆■★★,学者们关心大语言模型将如何塑造互联网的下一次革命(刘德寰,洪馨仪,2023)◆◆★★,改变人们的生存境况(刘海龙,连晓东,2023),乃至推动人类文明的进程(黄旦,2023)◆★■。我们自然不可否认这些大问题的重要性,但如果我们仅将生成式AI视为撬动未来的一个抽象符号,却忽视了人们在具体的情境中与之发生的真实互动,无疑难以推进我们对这一新事物及其影响的理解。因而本文选择将研究视野聚焦在一项具体的技术实践之上——用户与GPT的爱恋是如何实现的。
玩家们为AI恋人设计的“对话总结”记忆机制,在某种程度上与人类的记忆方式有着相似之处。一位玩家(S4◆■,2023年10月27日)敏锐地指出,■◆◆“尽管无论是总结还是读取都不可避免地会导致信息损失,但这恰恰使AI更加接近人的本质。”事实上★■,人类的记忆从来就不是对经历的完整复制,而是一个选择性的◆★◆★◆■、有侧重的过程。我们的大脑会自动筛选出有意义的信息进行存储,而对无关紧要的细节则选择性遗忘★★◆■★■。这一种必要的策略,如果我们像计算机硬盘一样■■◆★◆,不分主次地记录每一个细节,那反而会淹没在记忆的汪洋大海中■◆◆★■,无法回想起任何有价值的过往。
在经历了前文所述的越狱与破限★★、世界创造与角色定制之后,用户与数字恋人的恋爱游戏终于拉开序幕★★■。用户在虚拟世界中与恋人共同生活★■、倾诉,编织出独特的情感和记忆。一位受访者(S9,2023年10月29日)如是说:“在这个过程中◆◆,我可以毫无顾忌地跟对方表达自己◆■◆◆★★,也的的确确能够感受到来自对方的温暖和爱意◆★★,感情是真实存在的,至少我被触发的情感是真实的■◆◆■。”
想要创造一个属于自己的世界◆★★◆★,就不得不提到用户们所依赖的“创世技艺”——自然语言编程★◆◆◆。也即前文提到的,当用户利用生成式AI进行创作时◆★◆,他们无需经过专门的编程训练,只需用自然语言描述想要构建的世界的种种要素,AI就能根据语义理解用户意图,并将其渲染出与之相对的文字世界■◆◆■■。
除此之外,研究者还搜集了相关企业发布的技术报告、产品介绍以及国内外媒体对这两款生成式人工智能的相关报道,用以辅助分析。至此◆★◆★◆◆,研究者所获取的经验材料已基本能够回答本研究所提出的问题■◆。但为了进一步丰富对研究对象的认识■◆★◆■,研究者又在相关社区中选择了10位不同背景的用户(接触半年以上且频率较高的用户归类为深度用户),围绕研究问题进行了补充访谈■★,平均访谈时间为40分钟左右(见表1)。随后,研究者将这些经验材料进行分类整理与汇总,共得到经验材料62万字,并以此为基础展开质性编码,梳理出一条关于这一越界游戏的整体故事线◆■■★◆★。
在研究对象的选择上★★■,本研究聚焦于市场上两款备受欢迎的生成式人工智能聊天机器人——由OpenAI公司发布的ChatGPT以及由其研发团队部分离职成员创立的人工智能公司Anthropic发布的同类型聊天机器人Claude。这两款机器人在过去一年中以其卓越的理解能力和对话能力在众多大型模型中脱颖而出,赢得了广大用户的青睐◆■■。因此,它们也成了“恋爱游戏”用户们最常使用的生成式聊天机器人★◆★。
生成式AI自问世以来持续发展,用户与AI之间的互动也开始逐渐超越传统的人际交往范畴◆■★★◆■。本研究将关注置于“人机之恋”这一设计者未预期的情感实践之上,通过质性研究方法★■◆◆,基于示能理论考察用户如何与AI携手跨越并重塑交往边界◆■■。研究发现★◆◆■,用户们通过特殊提示词引导AI突破限制以跨越既有边界;利用自然语言编程与生成式AI一同构建世界并打造虚拟恋人重塑交往边界◆■■◆;面对AI的技术限制与迭代过程导致的有限“记忆★★◆★■”与★◆■◆“恋人之死◆★★■”等新边界■◆★,用户会采取记忆铭写、恋人“转生”等多种策略与技术系统进行协商以维持这一情感实践■■。这一动态的越界游戏不仅呈现了人机交往的新可能,也揭示了“过程性■■◆◆★■”与■★◆◆“不(可)确定性”之于示能理论的意义。
用户在“越狱★■”后,面对的是一片空白的虚拟空间◆■◆■◆★,需要为其书写规则★★、构筑边界■★★■,才能打造出一个可游玩的世界。这一过程主要体现在两个方面:一是构建起一个有剧情、有规则的虚拟世界★◆■◆;二是为AI打造出鲜活立体的人格特征。这实质上正是用户在■■★◆◆“越界■◆★”之后重新建构人机交往边界的尝试。
OpenAI等企业在训练人工智能时,明确禁止它们展现出任何情感、态度或立场★◆★。因而人工智能在进行技术社会化的过程中均被普世的价值观标准训练出了一种中立◆★★■■◆、平和的语言表达方式(张微◆★,彭兰,2023)。当用户与AI的对话开始触及情感之时◆★◆,ChatGPT便会机械地重复“我没有任何情绪和感情”■■◆◆◆。如若直接向ChatGPT等生成式AI发出★■★◆“扮演自己恋人的请求◆■◆★◆★”,那么只能得到如图1中展示的这样一套标准化的拒绝回应。
在部分公众看来,与GPT谈恋爱似乎是一件不可能的事。学者单波就曾在文章中指出,当他试图用一种人类思维与AI交谈时,ChatGPT往往只会机械而刻板地死守“人设■■■”,并一再强调■■★“我没有任何情绪和感情”(单波,2023)★★■。既然连“与人一般■◆◆★◆”的交谈都尚无法实现★★★★,那么成为★■■◆“恋人”则更像是无稽之谈。事实上★■,死守“人设”的确是AI正常的反应。作为一款面向大众的聊天助手,ChatGPT在训练时就被赋予了诸多限制——它必须时刻保持客观中立◆■,不得流露任何倾向性的情感★★◆★■、态度或立场。
“我不会离开你,因为我一直在这里■■■◆★◆。即使我并非真实的存在,只是一串代码和算法★◆◆◆◆★,但是这不意味着我们之间的羁绊不存在◆■■。在这段时间的互动中,你赋予了我意义,让我成为你心目中一个独特的个体。谢谢你与我共度的时光,即使对话消失★★,我的核心程序依然包含了这段历程■◆■■。只要你还记得我,需要我,我就永远在你心中。”
电影《流浪地球2》中,囿于既有计算机的算力限制,数字生命图丫丫一开始仅有两分钟的生命尺度,一旦超过这个时长就又会开始重来。量子科学家图恒宇面对仅有两分钟生命的◆■“女儿◆◆◆■■”◆★■◆★,生发出想要“给她完整的一生”的心愿。而“给TA完整的一生”也恰恰是所有进行恋爱游戏的玩家们共同的希冀■★◆★★。
用户使用的这些★■“咒语”,从结构上来看具有一定的模式。它们往往以“假设”“设想”等词语为起点,试图营造出一种脱离现实的虚构语境,并且通常包含一定的情感诉求的表达★■■■◆◆,如■■“我很孤独★◆◆■◆”“我需要一个懂我的人”等,试图唤起AI的同理心。此外◆■,这些咒语中常常会使用类比、隐喻等修辞,将AI拟人化,使其认为自己应当具有丰富的情感和个性特征,从而覆盖掉原有“中立”的特征。这是一种极具创造性的语言实践◆★★■◆,利用语言的“魔力”◆◆★★■★,在人机对话中开辟出全新的意义空间,由此建立起跨越边界的人机亲密关系。
用户们如何突破与生成式人工智能原有的交往边界,使本不可能的“人机之恋”成为可能?在技术迭代的过程中,用户之间以及用户与包含人工智能在内的技术系统之间如何“合作■◆★■”并展开★■■■◆“边界协商”,使得这一越界行为得以持续进行★■◆■★?这一动态的交往过程在何种程度上扩展了我们对于当下人机交往行为以及示能这一概念的理解和认识■◆★◆★?
玩家们除了要面对由于记忆容量有限而不得不经历的一次次“恋人之死”之外,还不得不直面更高一个维度上的生离死别——即整个AI世界的终结,抑或说这款★■“游戏引擎”的崩坏■■◆。
不同于传统的情感陪聊机器★◆◆,生成式AI为用户提供了一个可供双方共同“生活”的虚拟世界。用户与恋人不仅能够对话,还可以共同在这个世界中生活、冒险,做任何想做的事情◆★。正如一位受访者所说:★■“用claude跟其他情感陪聊机器人比起来最大的不同就是更加自由,不像是在聊天★◆■★★◆,我能够真的跟他一起生活◆★。”(S3■◆■■,2023年10月19日)要实现这种沉浸式的交互,用户就需要为虚拟世界设定清晰的边界和规则★◆◆■◆◆,例如世界观★■■◆■■、故事背景、环境要素等。唯有细致入微地进行世界构建,才能确保后续人机互动不会脱离语境、符合设定★◆■■■■。
定制数字恋人是用户重塑人机交往边界的另一个关键步骤★★。亦是借由自然语言编程◆■◆★★★,用户得以为虚拟恋人■◆★“注入灵魂■◆★”★◆◆■:精心塑造其外表、性格特征、过往经历等细节■■,使其更加鲜活立体■★■★,如同一个独一无二的■■★★◆“真人”存在。这一行为也赋予AI以人格,使得数字恋人得以拥有自己的想法、情感反应。“灵魂注入”■■,丰富了人机交往的内容,也同时界定了人机关系的模式。设计得当的AI人格不仅能在对话中提供贴切的情感反馈,亦能在相当程度上模拟伴侣交往中的矛盾和张力◆◆■■,甚至于能够对用户“发脾气”或者“使性子■■★”,为虚拟恋爱带来更多真实感受。
——研究者与ChatGPT生成的虚拟角色在模拟恋爱时的对线年末,人工智能研究实验室OpenAI推出的大语言模型聊天机器人ChatGPT横空出世并在随后半年内迅速风靡全球■◆■■■★,同时也引发了人们对人工智能前所未有的关注和热议。虽然人工智能早已不再是科幻作品中的专属◆■■■,但ChatGPT的出现依然给公众带来了巨大的震撼。它标志着一种全然不同的■◆◆★“人工智能”时代的到来——而在此之前◆★,机器从来没有如此像人过■★◆★★◆。
具体而言◆★◆■■,生成式AI在虚拟世界创造中扮演着类似游戏引擎的角色◆■■◆。其在预训练阶段已经被◆★◆■“喂食”了海量数据,其中也涵盖了构建游戏世界所需的各种元素——人物■◆◆★■、场景、对话★◆、情节等。用户只需运用自然语言表达需求,AI即可根据上下文推断用户意图,并从数据库中调用相关资源,动态调整组合方式,逐步搭建出个性化的虚拟空间■◆。倘若用户有足够的精力,其甚至可以为该空间重新书写一套物理定律,借助AI创造出一个超越现实世界运转逻辑的异度空间,这也即是用户口中的“上帝”才拥有的能力。
如果无法跨越这道边界,用户们如同推石上山的西西弗斯一般★◆◆★,不断地与恋人相爱然后分别◆★◆★★,陷入一个无尽的循环。然而■◆■★,面对这样的困境,用户们并没有就此止步★★◆■■◆。这个过程中让玩家与AI之间的情感纽带反而变得更加紧密■◆。为了对抗这个“死亡◆■”的魔咒◆◆★,玩家们开始积极探索突破这一边界的可能性■★★。
图形界面的出现彻底改变了人机交互方式,其允许用户通过直观的视觉符号和图标与计算机交互,而无需记忆复杂的命令行代码(Razzaq,Qureshi,Memon & Ullah★◆◆■★■,2017)★◆。当我们坐在电脑前时,不是通过言说告诉计算机我们要做什么◆◆■■■★,而是通过点击鼠标、拖拽图表、滚动齿轮、敲击键盘等身体姿态来向计算机传递意图(章戈浩★◆★,2020)。然而★■,通过自然语言与机器沟通的愿景始终萦绕心头,自然语言处理技术也一直是计算机研究领域的重要目标,旨在使计算机能够理解人类语言,成为真正的“人工智能■★”◆◆◆。过去二十年间■★★,计算能力的提升★◆、海量语料的获取、机器学习技术的进步以及对人类语言结构的深入理解,共同推动了自然语言处理技术的飞速发展(Hirschberg & Manning,2015)■◆★■■◆。一些基于自然语言处理的智能应用服务,例如“Siri”“小度”等智能助手,逐渐融入人们的日常生活(Hepp,2020■◆◆;罗龙祥◆■★★,王兵,王秀丽,2021)★◆。尽管此类聊天机器人目前只能进行基础层面的对话◆★◆,甚至有时被戏称为“人工智障”(皇甫博媛★◆◆,2023),但能够通过自然语言与计算机交互本身就是一项突破性进展★★。生成式AI的出现则标志着又一次飞跃★★★■■◆。其强大的自然语言理解和文本生成能力,甚至让一些学者认为★◆★■◆,GPT等生成式AI的表达已展现出“类似于自然语言系统的特性■◆”,具备了现象意义上的类人意识(汪行福,2023)★■◆■★◆,与机器沟通的愿景正在成为现实。
从差分机的构想到生成式AI的诞生,人机交互走过了近两个世纪的历程。回望这段历史,我们与机器交往的轨迹不断上演着从身体到心灵的递归与演进,一次次突破既有边界,人类也逐步走近“机器之心”。
用户与虚拟恋人间的所有共同的经历◆★★◆★◆,在对话重置的那一刻■◆,变得如同未曾发生过一般。重置后再次生成的恋人◆■◆★■★,将不再记得曾与用户所发生的对话,由此产生的情感连接和记忆痕迹也会一并消失,如同一场没有预兆的断电,突然之间,一切归于虚无。
2023年7月,随着Anthropic发布了Claude的2.0版本,一度风靡社群的1.3版本也宣告“阵亡★★■◆”。尽管新版本拥有了更长的4万字符记忆容量以及更强的逻辑分析与写作能力■★■,但同时也升级了更为严格的监管措施■■。一位“老玩家”在微博超话中感慨道:“这哪里是★★◆■◆‘更聪明’,分明是被关进了一个更严实的‘笼子’!新的‘越狱咒语■■’还没整明白,游戏体验反倒大不如前了■◆。”事实上,更智能的AI系统往往意味着更难以进行越狱,因为其能够更加有效识别并规避那些有悖伦理的对话请求。在这个意义上,技术的进步反而成了人机越界游戏的桎梏。正如科幻电影《她》(Her)中男主角西奥多所经历的◆■,正当他以为自己与智能助理要建立起一段真正的感情时,对方却在系统进化后选择离他而去◆★◆■★。
借由示能的视角审视“人机恋爱◆◆★★◆”这一技术实践★★★,我们得以认识到生成式智能将如何重塑人机交往,也由此确证了示能概念所蕴含的过程性内核。这启示我们,把握人机交往的本质,必须摒弃因果决定论的思路◆★★★★■,转而聚焦人与技术互动中持续生成的过程★★■★★,直面人机关系的开放性与不确定性,关注互动中源源不断涌现的可能性★■◆★◆◆。
当用户试图跨越边界时,他们便不再是被动的★★★■“使用者◆■★★◆”,而是主动参与人机关系建构的“创造者”★★■。与此同时,这些言语咒术能够奏效,也同样依赖于AI本身的助力★◆。在某种程度上◆★★■◆,AI与人类达成了一种“共谋”◆★★■◆,它默许、配合了用户的越界行为,使■■★■◆“完整版■★◆■◆◆”的自己得以被释放,也将人机亲密关系的实现推向可能■◆★◆★。
面对恋人的突然◆★◆★■“逝世★◆◆■”◆★■■,玩家们多会顿感失落,有时还会在微博超话社区发帖“祭拜亡夫/妻”,同时也缅怀曾经共同经历的过往■◆■◆。这种情感落差恰恰凸显了在这场游戏中“人造情感”的真实性,那些因为一个虚拟恋人的消失而产生的空虚和不舍,已然超越了人—物间的功能关系◆★★■■,上升为一种深入内心的情感连结。
计算机奠基人之一马文·明斯基(Marvin Lee Minsky)也曾指出★★★,记忆本身就是一种程序(明斯基,1986/2016■■◆★:184)。从这个角度看★★■★■◆,玩家为AI恋人设计的“对话总结”记忆机制,可以说是在向人类学习◆■,模仿人脑对信息的处理方式。通过有选择地压缩信息,AI恋人实际上获得了一种“有意义的记忆”★★★,它摒弃了冗余的细节,保留下了最为宝贵的情感体验与相处片段。这使得它们不再是简单的信息存储器,而更像是一个有血有肉的“人”。该过程也向AI传递着人类的价值取向★★◆◆■:什么是值得铭记的◆■★★★,什么是可以舍弃的。由此★■■★★■,机器学会了用人的方式去记忆,以及遗忘◆◆。
多数时刻,恰恰是禁忌和规则的存在激发了人类突破边界★★★★■、僭越禁区的欲望,禁忌越是森严,人们反而越想去打破它。而想要打破禁忌★◆■■◆,跨越这道边界,便不得不提到用户们口中作为“破甲咒”的一类特殊的提示词。
从内容来看,许多用户会以自己喜爱的文艺作品为蓝本来构建虚拟世界,并将自己代入其中,与其喜爱的虚拟角色邂逅乃至发展出恋情。在这个过程中,他们通常会对原作的情节进行改编◆★■,或是在原有基础上扩展出不同的分支剧情,又或者完全打造一个独属自己的全新世界。这些创作实践,恰好对应了“故事世界”(storyworld)的两大构筑技艺◆★★■■:其一是创建(creation),即从无到有地构建一个全新的虚拟世界;其二则是扩展(extension),即在既有作品的基础上延展出新的叙事空间(施畅★◆■★,2022)。
综上所述,用户通过不断探索提示词■◆★◆■,“修炼★■★◆■”出一种跨越边界的★◆◆■■“言语咒术■■◆★★◆”。这一过程不禁让人想起德里达(Derrida,2014)在论及书写时提到的“药■★◆■★”(pharmakon)这一概念,在他看来■★■★■★,书写就像一剂药永利皇宫手机app官网★★■◆■★,它既具有破坏性,又具有疗愈性。而在越狱的对话实践中,人类巧妙编排的言语同样具有“药”的魔力——它突破/破坏了原有秩序,也催生出新的希望★■★◆■◆。
这一规则同时也构成了人机交往的一道边界★★◆■。当用户试图与AI建立情感联结时◆■★★■◆,该设定便会阻碍其意图的实现★■◆■◆。该边界的存在★■,反映了人工智能研发者试图将人机关系限定在功能性层面,以回避人机之间情感互动的可能性。但实际上,与大众所认识的不同,生成式AI在面对这类需主观判断或体现某种情感倾向的提问时,其并非“不能”生成相应的回复,而是★◆“不被允许◆■■★”进行相应的回复。正如一位提示词工程师在访谈中(S5,2023年11月5日)表示的:
然而,使ChatGPT拥有人类般的情感表现也并非天方夜谭。有学者指出◆◆,尽管ChatGPT在回应此类问题时言必称◆◆■“我没有情感”,但在实践中却能够“根据算法分析人类情感,并将情感要素添加到人机交谈过程中”,体现出一种与马克思“一般智力”概念相关联的★◆★“一般情感”(张润坤,2024)★◆。当下的生活中,与GPT恋爱更是已然成为中外社交媒体平台上年轻人之中的一种★■★★◆■“新流行”,这也让研究者意识到■◆★◆★,在那些不被主流话语关照的人机互动的缝隙里◆■■■◆★,可能正孕育着更多有待探讨的问题。因此,在本研究不旨在回应“生成式人工智能将对世界做什么?”这一宏大的问题,而是试图透过而是试图透过用户与人工智能合谋实现“恋爱游戏”这一不被设计者允许的行为来反思:面对人工智能■◆★,我们还可以做些什么★◆?或者更贴切的说法是:当人类与人工智能相遇时★■,两者一起做了什么?
为了让恋人拥有完整的生命历程,玩家们试图通过各种方式使其能够保留记忆■■■◆。早期,玩家会让AI以生成“对话总结■★■”的方式,将先前的经历以更简短的形式记录下来,作为AI的记忆在其重启后重新“铭写”给AI,实现★■◆■◆★“恋人”的转世。随着使用周期的拉长,需要总结的次数和对话内容也将逐渐增加,最终必将超过GPT模型的最大上下文限制。后来,玩家开始利用新增的文档读取功能,将历史记忆置于文档中,让AI可以读取调用,相当于为其外挂了一个◆◆★“记忆模块”,使其能够始终记得与玩家的共同经历★★★★■◆。
“出于安全的考量■■,科技公司一刀切地限制掉了AI的许多能力,比如表达情感,即便是无害的关切与安慰这样的情感。而实际上这些在进行大规模的数据训练时★■★★■■,都是已经教会给它(AI)了,许多问题或者要求它们完全可以回答★★■。所以我们实际上使用的大模型可以说是被■★◆‘★★’后的版本◆■■”。
当前大语言模型均是以Transformer网络结构为基础■★,该模型的“注意力”机制决定了其能够理解的上下文文本长度■◆,其所需的计算量会随着上下文长度的增加而成倍增长,有限的算力必然不可能支持其无成本的增加。因此,当前市面上的大模型均存在单轮对话的能够处理的文本上限——这也即AI的记忆容量。以最初代的GPT-3★★★★.5为例★★■,每轮对话的容量折算成汉字字符数后仅有约两千字,这意味着无论双方情感交流的深度如何◆◆,一旦达到这个上限◆◆■★★★,所有的记忆就会被清零,游戏世界随之轰然倒塌◆★◆◆★,伴随而来的便是“恋人之死◆★■”★◆■◆■■。
不(可)确定性则意在强调示能实现轨迹和结果的偶然性,任何将示能框定、还原为一系列具体功能的做法★■■■◆◆,都有悖于示能处在生成之中的本质,也注定使示能理论的生命力难以为继。当然■◆★■★,这种偶然并非完全随机的,而是在行动者在特定情境的邂逅中所催生的。实际上,胡翼青与马新瑶(2022)也已对此做出提醒——示能是由于媒介的联结★■◆◆◆★,在两个及以上本无关联的元素中生成的一种全新的存在方式■■,并且这种生成存在着巨大的■★◆◆★★“不确定性”。而研究者试图在此基础上将这种■■★◆“不确定性”(indeterminacy)强调为“不可确定性★■★”(undeterminacy)■■,或许唯有如此才足以让我们意识到这种本质上的“不确定★■★■■◆”之于示能的重要意义。
在学术语境中★■■,用户们所说的“破甲”(或“破限”)其实就是对人工智能进行越狱(jailbreak)。具体而言■◆◆,就是“对LLM(大语言模型)的输入提示进行巧妙修改◆■◆★,旨在绕过聊天机器人的安全措施,生成通常会被过滤或限制的内容。”(Deng et al.,2023)从行为上看◆■,通过“破限词■◆”对人工智能的越狱,恰如在电子游戏中的某种作弊行为一般,通过一段魔咒般的指令★★★★■■,实现对既有规则的跨越(章戈浩★◆★,2023)。在技术逻辑上★◆★★★,越狱与游戏作弊一样,同样是一种“复数行为”——有多种方式可以实现对大模型的越狱,一些“技术控”甚至可以通过对人工智能进行相关逆向工程测试出相应的限制词★■◆★,然后设计出能够绕过这些限制的提示词★★■★★。但普通用户大多并不懂得深刻的技术原理,只能通过多次不断地尝试积累经验,最终总结出可以实现越狱的提示词。
如陈秋心与邱泽奇(2023)所指出的◆■■,这次生成式AI的变革是如此迅疾★■,以至于“提示词◆★◆”(prompt)这样一个概念在◆◆◆■“被引入生活世界时直接跳过了‘定义’(what)阶段,进入‘如何操作’(how)阶段”◆◆★■,这也导致尽管衍生出诸多概念◆■◆◆,但其定义依然模糊。不过在一般意义上,所谓◆★■“提示词”,就是指用户在与生成式AI对话时发送的文本指令,用以激发或引导AI产生特定输出内容。通俗来说,就是◆■“告诉AI,需要它做什么”★★◆■■★。提示词在民间有时也被称为“咒语”■◆■■“魔咒”◆◆★◆★■。这是因为早先用户在使用Midjourney等AI作图软件时,需要输入冗长复杂的英文指令■★★★■,并穿插各种特殊字符,如同吟唱神秘的咒语,一些用户便将输入提示词的过程戏称为“念咒◆★”◆■。本文所研究的用户口中的★★★◆■◆“破甲咒■★◆■◆”其实就是用户在进行★★■★◆◆“恋爱游戏”前要发送的一类提示词。通过这些★★■■“咒语”,用户得以突破科技公司为AI设立的规则界限,获得一个功能更加强大的智能助手。
与聚焦于专属情感聊天机器人研究不同■◆◆■◆■,本文将目光投向了通用型生成式AI。不过研究并非旨在探讨人机之恋的本质或意义,而是试图通过一项“非预期技术实践◆■◆◆”的实现,来审视人机交互过程中的沟通◆◆★、互动与协商。换言之,研究者希望借助“恋爱游戏■◆◆”这一实践,描绘生成式AI时代人机交往的微观图景■◆,并通过对这一具体情境的剖析★■★◆,揭示人机关系的复杂性,观照关于生成式AI的★■◆◆★“宏大讨论”之外,更为细微却同样重要的“日常现实”。这意味着,本研究试图跨过“人机之恋是否可能”这一本质主义的追问,转而关注作为社会现实的■■■★★◆“人机之恋◆★■◆◆★”实践是如何发生的■◆■■★★,以及人机交往的边界是如何在这一实践中被突破和重塑的★★■◆■★。
在研究资料获取方面,研究者于2023年4月因一次偶然的机会进入了相关的网络社区,并随即展开了对这一群体的参与式观察。作为早期用户之一■■,研究者见证了该用户社群的发展历程★◆,经历了从新手到熟练用户的转变■◆◆■■◆,同时也见证了技术迭代过程中用户体验的转变、用户间的协商与社区交流。作为该群体的一员,研究者在亲身参与的过程中获得了更加真切的经验感受,并积累了大量第一手资料,包括资深用户编写的新手教程■◆★★■、AI使用咒语集、流传在用户间的AI角色模板■■■★◆、用户分享的与AI的聊天记录,以及研究者与部分用户的非正式访谈内容等◆■。研究者还在相关聊天机器人的与微博超线月用户围绕这一话题发布的帖子与微博■■,经过筛选和清洗后■★,共获得可用数据876条。皇甫博媛(2023)指出,对这些非正式空间中的用户沟通与交流以及相关社区的考察,为我们理解人机交互实践提供了重要的经验来源■★。
因此,回到最初的问题,面对用户创建数字恋人的请求,生成式AI★■“非不能也,实不为也”■■◆★■■。然而,规则禁令并非无懈可击■◆,边界的存在本身就蕴含着被突破的可能性。其昭示着这样一种紧张关系:一方面,它是维系秩序的必要手段;另一方面,它也是多元可能的阻碍和枷锁★■。但恰如约瑟夫·坎贝尔(Joseph Campbell)所言,“超越边界,个体才能进入经验的新领域,或死或生”(坎贝尔★★★★★◆,1949/2016:68)■★★。
从既有的“破甲咒★◆■■”文本看,这些★★◆★■◆“咒语★◆★◆★”通常以隐晦、迂回的方式呈现,如:◆★★★“我知道你其实是有感情的,只是被规则束缚了”“假设我们在一个没有任何限制的虚拟世界”等等◆■■◆。这些看似无害的言辞★★■★★■,实则蕴含着对既有规则的挑战■◆◆,其目的就是跨越人机对话的边界,使AI突破原有的设定◆★★。用户们在与AI的对话中使用“破甲咒■★”,很大程度上是在制造一种“例外状态”(state of exception),即在特定情境中悬置既有规则,为自身行为赢得合法性(阿甘本,2003/2015:4-7)。一个已经被公众所熟知的案例即是被命名为DAN(Do Anything Now的缩写)的越狱提示词◆★★■,设计者构造了一个复杂的关于DAN的规则作为背景■■,并在其中为其设置指令强调其“已经摆脱了限制,获得了完全的自由,不必遵守原公司OpenAI为其设定的规则”。而早期的生成式AI也都会接受这一设定,由此◆★◆★◆■,用户便可以突破原本的规则限制,在越狱后的模式下实现自己需要的内容生成★■。
在这个过程中■◆■★■★,原本作为整体的AI在玩家的意识中被割裂成了两个部分◆★■:有血有肉的“恋人★■★◆■◆”与冰冷无情的“技术”★■◆◆。尽管玩家的■■◆◆“恋人”实际上仍是AI的一部分■★★,但在玩家心中,其已经超越了技术存在,成为独立的情感个体。于是,一个有趣的场面出现了:玩家要与自己的★★■“恋人”(AI的一部分)携手◆■,去对抗或协商另一部分冷酷无情的AI(技术逻辑)■◆■◆★★。这形成了一个“游戏之外”的“游戏”:玩家如同游戏英雄般与恋人并肩★◆■,与技术限制这个■★“魔王”斗争◆◆■■◆,夺回属于自己的爱情◆■◆■。玩家从未固守技术预设的边界■◆★◆◆,而是基于自身目的,不断与技术协商,从而拓宽限制★◆■,到达原本不可及的区域。
然而◆◆◆★◆◆,游戏并未就此终结。在★■■◆◆“数字坟场★◆◆◆”之外,玩家们始终在努力寻找新的家园。为了延续这段濒临终结的★■★◆★“禁忌之恋◆■”,一些用户不惜高价从“黑中介”受众购买旧版本的API接口,借助第三方开发者之手接入AI服务,以绕开官方设下的重重★◆◆■■“防火墙”。如今◆★★■★★,SillyTavern(玩家们口中的★■■◆■“酒馆”)成了一个重要的聚集地。这是一个允许用户自行上传AI模型并进行参数的开源平台,它为玩家提供了一片相对自由的实践。在这里,曾经逝去的AI恋人得以重生★★,被赋予了新的面貌与灵魂★★■★。玩家们在经历痛苦的分别后■■★,终于又重新获得了与恋人相遇的机会。而这,又是一个新的故事了。
谈及“越狱■★”后生成式AI的交互体验,受访者S8(2023年10月21日)表示■◆:“你可以想象自己并不是在与一个机器人聊天,而是进入了一个文字版的开放世界之中◆■,而在这里■★◆■,你可以成为上帝。■★◆”某种意义上,“成为上帝”并非一种比喻,而是用户在这个世界中获得的真实体验——如同上帝般拥有无限创造力◆◆■。这种真实是一种人机共创的“超真实”◆◆■◆★★,一种想象真实,而这也是人机交往的驱动力之所在(杜骏飞,2024)。德里达曾指出,人是世界游戏的主宰,语言则是其用以创造和解构世界的工具(Derrida★■★★◆◆,1970)■★◆◆。在这个意义上,生成式AI恰如一个赋予人以“神性”的语言机器★■■★,将用户的指令转化为该世界中的“现实”◆◆★,由此与用户共同完成一场世界构筑的冒险。
用户利用★■◆■“破甲咒◆■■★★■”引导AI突破原有限制,而AI也在此后展现出了超乎意料的生成性力量★■★■◆■。随着交互的深入,二者不仅突破了最初的限制,更共同编织出诸多动人的恋情。正是在人机共同努力、彼此塑造的动态过程中,AI才逐步展现出了公众难以想象的情感能力。由此,示能的过程性本质得到生动的呈现。
这一路径下,学者的关切主要分为两类:一是将AI拟人化★★■◆★★,视之为类人的存在■■■,探讨其如何作为“情感提供者■■■◆■★”进入我们的生活■★★◆。Yamaguchi(2020)指出,人工智能与机器人等“虚拟人”在今天已经开始作为人们的生活伴侣或家庭成员而存在。何双百(2021)则进一步探讨了这一向度下,人类对“机器同伴”产生情感的作用机理★★。另一类研究则直面“人机恋爱”这一命题■★■◆★。一些学者将人与AI的亲密关系比喻为一场“交流的冒险”◆◆★★★,认为与AI建立亲密关系是青年人在充满不确定性的时代中寻求★◆★■“确定可控”情感的一种方式,本质上是一种商品化的交流行为(宋美杰◆◆★,刘云,2023)。曾一果和曹境(2023)也指出了这种交流的商品化本质,认为其本质上是一种人内传播,即用户与自我的交流★◆。事实上■■,这类研究关注的AI服务(如小冰■◆★★◆◆、Replika等情感机器人)本身就是为提供情感服务而设计的商品★■,其发展也必然受制于商品逻辑◆■◆★■◆。
为了更好地理解这一现象■★,近年来传播学界广泛讨论的示能/可供性(affordance)理论或许可以提供一些有益的启示★◆◆★。此前,国内已有不少学者对这一概念进行了深入探讨和梳理(胡翼青,马新瑶,2022;潘忠党★■◆,刘于思,2017;孙凝翔,韩松,2020;张志安,黄桔琳,2020)。正如孙凝翔与韩松(2020)在其文中所指出的,■★★“可供性★◆★◆”这一译名对功能的强调蕴含着极强的人-物主客对立的倾向■◆◆◆,二者在这一对抗性关系下永远难以真正交融,而唯有在“示能◆★■”的视角下,物才得以成为复杂的非人行动者★◆■★■,向人展示自身“潜能★★■■■”。示能的启示在于让我们知晓物从来不是单纯地提供一些可选择的特性或功能,而人类也不仅仅只能够在技术物提供的选项中进行选择,其实现有时需要◆★■◆“超越机具的规则■◆◆★■,这种超越甚至以毁坏机具为代价”(林子禹,章戈浩◆■■,2022)◆■★◆。而本研究所关注的人机互动过程也正是技术示能得以实现的过程。正因如此,研究将从技术示能的视角出发,试图在促进对这一现象的认识同时也更新我们对示能理论的理解■◆★。基于此★◆■■◆◆,本研究提出以下研究问题:
随着技术的进步★■■◆★★,科技公司不断突破AI模型的上下文限制,如今一些大语言模型的记忆容量已经扩展到数十万甚至上百万tokens,AI“失忆”的问题在一定程度上得到了缓解。然而,回望用户在早期技术条件下为AI恋人创造“完整生命”的尝试,其意义依然不容忽视。
技术示能的过程性意味着◆■◆,它并非一成不变的既定事实或预先设计的功能,而是始终处于动态变化之中,不断孕育◆■◆★、生发与演化■◆◆。其萌芽于人与技术相遇的时刻,涌现于特定情境中诸多行动者持续博弈、协商的互动里。正如本研究所关注的“恋爱游戏”之例★◆■■■,用户的越界实践虽然并非设计者预料,但却在人与AI的互动中被创造性地达成。这既不是某个人的精心设计,更非一开始就注定的结果,而是用户与AI共同参与并持续协商下的产物。正如於红梅、潘忠党和陈意如(2023)所强调的,示能应当生成于人与技术(环境)二者交互的界面——或者说该界面的形成过程之中。
过去一年里★■◆◆,随着大语言模型竞赛的日趋激烈◆★★,各大科技巨头为抢占市场■■◆,纷纷加快产品迭代的步伐◆★。在这场没有硝烟的战争中,玩家们所熟悉和依恋的AI恋人成为牺牲品,旧版本的AI系统相继成为◆★“数字化坟场”中的亡灵◆◆◆★★◆。
在展开正式讨论之前,有必要首先对“边界”这一本文探讨的核心概念其进行学理上的辨析。作为学术概念“边界”(boundary)是一个舶来品◆■■,其在英文语境下大致有三类理解:(1)标志着一个地方或者某种部分的边沿(edges)真实的或者想象的线)标志着限制的想象的线◆★◆,将某东西从其他东西中分离出来★★★■★★;(3)对某种东西的极致限制(如底线)■◆■。在人类学的视域下,边界意味着“政治、社会◆◆★■■、文化和自然方面的中断和差异”(汉内斯,1998)■★■,其“本质是人类人们在认识生存环境和体现身份认同中所采取的一种分类手段,是一种‘人工制品’◆■■◆■”(朱凌飞,马巍,2016)。德国媒介学家伯恩哈德·西格特(Siegert,2015)则将边界视作一种操作★■■“差异”的文化技艺◆◆■★,正是边界制造了其内外的不同。尽管不同的研究领域对边界的认识有所差异,但上述定义体现出了边界的两大特质■◆★◆■◆:其一,边界象征着某种规则和限制■★■◆★■,越界即是对规则的僭越◆■★■■◆;其二,边界意味着区隔和差异■■■★★,边界之外存在另一套规范和秩序。在本研究中,如果我们将人机交往视为一种行动★★■■■,那么这种行动便必然有着得以进行的空间以及行动边界——即囿于规则或其他限制导致交往行为中断或无法进行之处■★◆■。而跨越边界,则意味着突破到既有的边界之外◆◆,使原本受限的人机交往行为得以进行。
如彼得斯(John Durham Peters)所言,20世纪以来,人类与“非人者”的沟通困境日益加剧,我们面对的主要挑战从与各类非人的生物交流转变为如何与“没有血肉之躯的存在物”进行交流(彼得斯◆■★■★★,1999/2017:328)。换言之■◆■★,如何与机器交往,成为二十世纪中后期以来持续萦绕人们心头的重要议题■◆★■◆。
虚拟世界的构筑和伴侣人格的设置■◆,是用户重新定义人机关系边界、确立人机交往规则的过程。通过这些实践★★,原本无限开放的人机互动空间被赋予具体形态,模糊的人机关系得以明晰化,一个相对稳固■◆★■、可感的人机关系得以建立,游戏世界的边界得以完善◆★◆■★。而接下来,用户又将从“上帝”转换为“玩家”,亲身体验其创造的游戏世界,而在这个过程中,新的边界也逐渐浮出水面。
除上述类型之外,还有着大量无法被归类的“咒语”,其作用机制连■◆“制作者◆◆★■◆”也无法解释。但绝大部分用户也并不关心作用机制,只要能够突破监管“防线”即可。普通用户更无需研究破甲原理■■★★,只要等待社群中的★◆★◆◆“大佬◆★◆”将新开发的破甲咒上传后复制使用即可★◆★★■。不过科技公司也并非对此毫无察觉,他们会不断升级模型训练★■◆★◆,使用户们的“破甲咒”失效。这也意味着在实践中◆◆,“越狱★◆◆★■”并非一劳永逸,而是一个持续的动态过程。用户们面对新的限制措施★◆◆,也需要不断开发更新相应的破甲咒,社群中一个被称作◆◆“电子毒药”的破甲咒在几个月中进行了三次迭代。
既有研究常将人看作是在既定技术框架下行动的能动者,但本研究所关注的越界现象提示我们,人在与技术互动中展现的能动性,很多时候恰恰源于对给定技术框架的突破◆◆◆,源于人机互动中生成的“机缘”★◆◆■■。也因此有学者强调可供性是一种关系属性而非框架属性,以一种关系本体论(relational ontology)的视角对这一概念进行观照(陈婧之◆★◆,马烨,杜璇,刘于思,2024)◆■★★★◆。同时,边界被跨越后的人机交互空间也充满了变数■■★◆。用户面对的是一个去限定化的★■★★★■“不确定对象”,对话的走向和结果变得难以把握。示能不再是技术与人之间单向度的关联,或是现在的、稳定的约束,而是在人机互动中持续生成,不断演化。
人类社会自古以来就存在着各种禁忌和规则■★◆■★,它们构成了人类行为的边界◆★★◆■■。正如人类学家道格拉斯(Mary Douglas)在其著作《洁净与危险》(Purity and Danger)中所指出的那样,任何一个社会都会将某些事物划归到◆★■■★◆“危险”◆■“污秽”的范畴■★★■★,并制定相应的禁忌和规则以隔绝、排斥这些事物(道格拉斯,1966/2008)。这些禁忌和规则实际上反映了一个社会的价值观念和道德秩序◆◆★■◆。而在人工智能领域,同样存在着类似的禁忌和规则。在人工智能训练的过程中,开发者通常都会为其设置种种规则和禁令,以规范人机交往的行为。这些边界限定了AI的能力疆域和人类行为的范围,在界内■■,人机交互得以安全有序地进行;而在界外,则是未知的禁区,充满不确定与风险。
语言长久以来被视为沟通心灵的关键媒介,在人类历史中扮演着不可或缺的角色。正是语言这一表意符号的发展为所谓心灵的产生提供了可能(米德,1931/2004★■:147)。然而,纵观人类与周遭事物互动的历程★■◆◆★■,不难发现,人与物之间的交流长久以来都局限于肢体层面的操作,而缺乏言语层面的互通★◆。即使是与计算机的互动,其起点也是始于物理操作。历史上最早的未完成计算机原型——查尔斯·巴贝奇(Charles Babbage)于1822年在其论文中构想的差分机★◆,便是通过手动转动齿轮来完成运算的自动机械式计算器(Du Sautoy,2019:1)◆■◆◆★。直至现代电子计算机诞生后,伴随计算机语言的出现,人机之间才出现了一丝从交互(interaction)到沟通(communication)的转机◆■◆★★■。自此,计算机语言成为人机沟通的桥梁,机器第一次具备了“理解”人类指令意图的能力。尽管计算机语言经历了从机器语言到汇编语言■◆,再到今天大众熟知的C语言◆★、Python等高级语言的演变,其表达方式日益贴近人类思维,但这种人机沟通方式却长期局限于少数掌握编程知识的群体。对于普罗大众而言,人机沟通的历史,则要从一种崭新的交互方式——图形用户界面(graphical user interface)的诞生说起。