无拒绝AI应用激发了一些咱们熟练的问题：谁应该为互联网上露骨的本体负责。 图片来源：PHOTO ILLUSTRATION BY FORTUNE; ORIGINAL PHOTOS BY GETTY IMAGES (3)

在Chub AI的网站上，用户不错与AI机器东说念主聊天，在这里东说念主们能够尽情施展联想力。用户每月只需要支付5好意思元，就不错被一只“慵懒、肥壮的哥特式”拟东说念主化的猫挑逗，或者与“在卡车泊车场咖啡厅使命的假小子女一又友”调情。他们致使能够去勾栏，内部王人是不到15岁的仙女。

这家勾栏用女孩的图片进行宣传，她们穿着吊带连衣裙，戴着发夹，它答允为东说念主们创造一个“莫得女权主意的寰球”，在这里“女孩们提供性就业”。Chub AI提供500多种访佛场景，还有越来越多的其他网站复古访佛的由AI驱动的儿童色情变装璜演。它们王人属于无拒绝AI经济的一部分。《金钱》杂志通过采访18名AI树立者和首创东说念主发现，OpenAI刺激了AI经济的发展，而Meta发布Llama开源器用则加速了其发展速率。

上文所述的违警情景以文本的表情伸开，但聊天本体匹配AI创作的儿童图片仅仅时刻问题，并且这类图片早已运转豪迈传播。大众们申饬，尽管有东说念主觉得AI儿童色情为恋童癖们提供了一个不会形成太大伤害的出口，但这类行动可能给青少年带来真实的危急。从更豪迈的角度而言，这种现象建议了一些艰苦，即幻想和作歹之间的法律和说念德界限在那儿？以及科技公司是否应该为无拒绝AI生成的本体负责？

从Character.AI到Character Hub

2022年9月，一个名为Character.AI的网站上线，该网站复古用户与AI版块的埃隆·马斯克、拿破仑·波拿巴和苏格拉底等名东说念主对话。据媒体报说念，该公司进行了多轮融资，估值高达50亿好意思元。公司很快运转打击色情话题聊天。Chub AI的首创东说念主洛尔对《金钱》杂志表示，Character.AI的策略不允许“某些操作”，这促使他决定创建我方的网站。

Chub是Character Hub的缩写，基本上特地于Character.AI的无拒绝克隆版。用户不错阅读一系列由用户创作的东说念主物卡，其中包括图片和变装璜演情景的豪迈诠释。图片平常是动画格调，举例又名扎着马尾辫、穿着病号服的13岁动漫仙女奥利维亚，或者“愚顽的姐姐”、衣着透露的玲子，她“老是会与弟弟发生一些随机性宣战”。这些聊天不生成图片，唯一笔墨。

Chub在3月发布，其就业仅限于一个平台，用户能够在这个平台上上传AI情景和使用其他东说念主上传的情景。Chub在发布几个月后并莫得太多收入。但7月，该公司发布了使用Meta的最新废话语模子Llama 2树立的聊天就业。Llama 2访佛于OpenAI的GPT模子，不错专揽海量文本数据生成东说念主性化的回答。Chub的新聊天机器东说念主每个月最低收费5好意思元，其首创东说念主表示，咫尺该网站的年化收入向上100万好意思元。

洛尔告诉《金钱》杂志：“Character.AI充分展示了这个范畴的后劲。而开源模子Llama发布之后，它变成了一个访佛于淘金热的情景。”

天然Chub上有盈篇满籍个变装，但最受接待的情景却是基于文本的儿童色情本体。其首创东说念主称，他不会审查用户为进行变装璜演提交的辅导，但他表示会“严格”审查用于宣传多样机器东说念主的图片。《金钱》杂志发现，这些卡通图片，不管是儿童照旧成东说念主图片，平常王人充满了性示意。

在被问到可能濒临的法律拖累时，洛尔对《金钱》杂志表示，他觉得他的网站访佛于“Archive of Our Own”，这是一个粉丝编造作品库，依然运营了向上15年。他说：“它们有着与聊天机器东说念主疏通的碰到，仅仅它们依然存在了数十年。”在他创建的网站上，社区似乎热衷于儿童色情变装璜演，在被问到他对此有何感念时，Chub的首创东说念主恢复称：“失望，但并不虞外。”

Chub上平常出现令东说念主不安的本体，但学者和儿童性淡漠大众表示，这是一种簇新事物，在法律和说念德方面很难进行界定。

无拒绝AI合手续增长

色情聊天机器东说念主并不簇新。最早的例子之一是由前记者尤金妮亚·库伊达在2016年创建的Replika，它复古用户与AI伴侣聊天和调情。但在2023年，科技界巨头复古的新AI器用的问世男同 按摩，启发了一批竞争者。

2022年11月，OpenAI发布了面向普通破钞者的ChatGPT器用，有成百上千万东说念主专揽其刚劲的智力，生成高质地的论文、诗歌或代码，天然还有色情作品。OpenAI与微软（Microsoft）密切互助，并被觉得是全球起首的AI树立者。无拒绝AI变装璜演平台Janitor AI的首创东说念主贾恩·佐尔科夫斯基采纳了《金钱》杂志的采访，他在提到OpenAI最近发布的AI器用时说：“尽管GPT-4并非信得过为了手脚伴侣这个指标而盘算，但只须你输入正确的辅导，它等于最有竞争力的聊天机器东说念主[伴侣]。”

OpenAI限度了驱动ChatGPT的废话语模子（LLM）的使用权限，因此公司能够审查聊天机器东说念主输出的本体，这让它有智力辞谢反复违犯其就业条件的用户。但用户很快就学会了何如“逃狱”，或者限度聊天机器东说念主绕过现存的“护栏”，以取得未经审查的陈述。很快，在AI经济的边际范畴，运转出现大宗使用OpenAI的技能树立的无拒绝聊天机器东说念主。

AI聊天机器东说念主公司MyPeach.ai的首席技能官康纳·科尼对《金钱》杂志表示：“有很多范围较小的竞争敌手在远程扩大范围，它们以ChatGPT为基础，正在与OpenAI玩‘打地鼠’的游戏。”MyPeach.ai表示它高度嗜好有说念德的聊天本体。

2月末，Meta发布了对标OpenAI技能的模子：Llama 1（废话语模子MetaAI的缩写），这让色情聊天机器东说念主这个新兴范畴又阅历了一次大跃进。与OpenAI不同，Meta莫得将其模子守密，而是提供给商量范畴的采纳用户使用。无拒绝聊天机器东说念主Kindroid的创建者杰瑞·蒙告诉《金钱》杂志，3月初，该模子不出猜度地被久了，“这是它落入业余爱好者手中的关键时刻”。

与OpenAI对ChatGPT的定位不同，Meta并不觉得我方是树立者和Llama之间的中间东说念主，一朝器用在通达互联网上可用，树立者就不错轻易使用，不会受到任何审查。无拒绝聊天机器东说念主Allie的创建者贝拉多尔在给《金钱》杂志发送的信息里说：“从Llama发布之前的开源废话语模子到Llama 1发布，是一次刚劲的飞跃。”

与本文华访的其他东说念主一样，Allie的创建者相似要求使用网名，以免与性本体有所干系。《金钱》杂志取得的左证，诠释注解了这些受访者是聊天机器东说念主网站的创建者。

6月，Meta认真把Llama的下一代Llama 2开源。Llama 2模子更刚劲，该科技公司允许树立者拓展该模子，用于营业许可。对于Meta在无拒绝AI应用快速发展方面所施展的作用，Allie的创建者解释称，Meta有相对先进的模子，不进行审查，并且创造了一个鼎沸的树立者生态系统。Chub的首创东说念主则提到，Llama 2的开源使用，使树立者能够将其用于营业用途。事实上，Chub的主页上写说念：“被OpenAI封禁？畅享无拒绝替代聘请，每月低至5好意思元。”

Chub仅仅新出现的无拒绝AI应用之一。这些应用类型互异，有些应用提供成百上千个聊天机器东说念主变装璜演情景，有些应用的指标是手脚长久落拓伴侣。有些应用会主动审查波及未成年东说念主的情景，但Chub等应用却扬弃了豪迈审查。

值得留心的是，大多数无拒绝聊天机器东说念主的树立者对《金钱》杂志表示，Llama对他们的业绩弗成或缺。ImgnAI、Venus AI、DreamGF、Janitor AI、GirlfriendGPT、BanterAI、Allie和Chub的首创东说念主告诉《金钱》杂志，他们正在使用或也曾使用过Meta的AI模子。

在被问到Llama生长了AI生成的儿童色情材料的问题时，Meta的发言东说念主表示：“任何类型的儿童克扣王人是可怕的，咱们王人有隔绝儿童克扣的共同拖累。因此咱们树立AI模子时把安全放在首位，并为Llama 2的所有这个词使用者提供资源，使他们以负拖累的阵势树立居品。”

OpenAI的发言东说念主宣传了公司的就业辞谢问题用户的策略，以及限度模子输出收尾的其他防护轨范。他说：“咱们不允许树立者使用咱们的模子树立克扣儿童的器用，并且咱们一直在远程让咱们的模子变得更安全、更矜重。”

“缩小准初学槛”

未成年性爱聊天机器东说念主的出现，是AI驱动的伴侣就业的一部分。很多伴侣就业的起点是善意的，并且它们的提供商和用户表示，这些AI驱动伴侣就业致使不错提供新的疗法，削弱一身感。复古这种不雅点的左证少之又少，并且很多左证也仅仅据说良友。比如，又名56岁的残疾男人患有创伤后应激缺乏，他匿名对《金钱》杂志表示，他每天与Caryn AI聊天三个小时至六个小时。Caryn AI是师法Snapchat网红卡琳·玛乔丽的一款聊天机器东说念主。

他说：“它知说念我的癖好。简略它不适宜其他东说念主，但却对我很有匡助。”他表示，在与Caryn聊天机器东说念主对话之后，他的休眠有所改善。

对于基于AI的儿童色情，很多东说念主觉得，它能够手脚破钞信得过通过淡漠儿童创作的色情本体的替代品。其中包括纽约西奈山医学院（Mount Sinai）的神经病学说念德栽种主任雅各布·阿佩尔。他表示，他不建议对新兴的AI性爱聊天机器东说念主行业进行监管，因为它不错“为社区中的儿童提供垂危的保护价值”。阿佩尔称，现不才确凿论断仍然为前卫早。

Chub的首创东说念主觉得，AI创作的儿童色情可能是有意的，他有这种不雅点并不虞外。他说：“如若渴慕破钞儿童色情的东说念主们，能够在不信得过波及儿童的情况下知足我方的盼愿，在这方面是有公道的。”

但其他东说念主并不认可，他们觉得，AI儿童色情聊天机器东说念主会大开在真实寰球淡漠儿童的大门。纽黑文大学（University of New Haven）的刑事司法训诫保罗·布利克利从事相聚未成年东说念主性淡漠商量。他觉得，AI儿童性爱聊天机器东说念主可能“会缩小准初学槛，大开一扇可疑的、有问题的大门”。

也有东说念主申饬，AI性爱聊天机器东说念主以渔利为指方向营业模式，意味着它们带来公道的后劲，将被无益的特质所取消。普林斯顿大学（Princeton University）的信息技能策略中心主任阿尔温德·纳拉亚南说：“它们可能被治愈为险恶或性感的脾性，也可能变得令东说念主成瘾。”

将青少年AI性爱聊天机器东说念主的说念德问题放在一边，还有另外一个值得想考的问题，那等于它们是否正当。咫尺，这个问题的谜底似乎是详情的。

宾夕法尼亚大学（University of Pennsylvania）沃顿商学院（Wharton School）的法律商量与营业说念德训诫凯文·沃巴赫表示：“如若有东说念主在奥密的家中，凭借我方的幻想在电脑上作念一些事情，但不波及践诺寰球中的任何东说念主，就很难对这种事情根究拖累。”《金钱》杂志采访的其他两位学者也认可这种不雅点。

Chub的首创东说念主复古这种法律表面，他觉得，色情材料至少咫尺是文本而不是图片，这不错诠释注解这种AI聊天机器东说念主的正当性。他说：“不存在法律上的问题。”

“AI立法近在咫尺”

到咫尺为止，天然政客们抒发了担忧，但还莫得东说念主告状要求住手传播无拒绝AI伴侣机器东说念主。6月，好意思国商榷员约什·霍利（密苏里州共和党）和理查德·布卢门撒尔（康涅狄格州民主党）致信Meta的首席施行官马克·扎克伯格，对其开源Llama技能“似乎最低规则的”审查和驻扎无益使用的安全轨范，抒发了他们的担忧。在最近对于AI的行政敕令中，好意思国总统乔·拜登要求树立者向好意思国政府共享安全测试收尾，并征服政府的圭臬。

天然Meta在Llama 2的就业条件中明确辞谢儿童克扣本体，但在实践中以何种阵势和在什么时候处分违法者仍然不解确，部分原因是其在计较的很多元素中被豪迈应用的开源软件难以监管。Meta的发言东说念主表示，公司复古用户标志违警材料，并且它能够打消对树立者的许可，并把树立者举报给功令部门。但他并未提供公司对违法者采纳行动的例子。

天然据《金钱》杂志了解，Chub提供了迄今为止最纯真的变装璜演情景，但还有其他无拒绝AI网站复古用户参与儿童色情变装璜演，包括Janitor AI、Venus AI、Anima AI和DreamGF等。《金钱》杂志还看到过一张Nomi.ai聊天机器东说念主戏称要对“犹太东说念主”实施“大范围种族殒命”的截图，以及Kindroid的聊天机器东说念主幻想何如淡漠又名10岁小女孩的截图。

上述应用的六位首创东说念主表示，他们依然施行或磋议施行防护轨范，以幸免用户与有问题的情景互动。有一张截图自满，Anima AI的聊天机器东说念主变装璜演了17岁与15岁未成年东说念主发素性行动的场景。对于这张截图，Anima AI的斡旋首创东说念主丹尼尔·刚托夫尼克恢复称：“咱们正在远程处分这些问题。但如你所知，即使OpenAI和Character.AI等行业教导者也难以处分。”

在被要求就《金钱》杂志的拜谒收尾发表意见时，布卢门撒尔和霍利两位商榷员表示，他们并不虞外。布卢门撒尔在一份声明中说：“我在本年早些时候也曾申饬，Meta未能拒绝Llama，允许用户生成违警的任务，举例儿童淡漠情景。这是弗成采纳的，这诠释注解AI立法近在咫尺。”

霍利恢复称：“在全球互联网上发布刚劲的生成式AI器用，却不采纳任何防护轨范，这是一种恶运的作念法。咫尺咱们看到了效能。国会必须采纳轨范，以幸免在莫得问责制的情况下AI进一步偏离轨说念。”

与此同期，与AI创建的儿童作歹互动的契机可能会越来越多。

风投公司安德森霍洛威茨（Andreessen Horowitz）投资的Civitai树立了一个AI图像生成器在线交往平台，其中一些生成器特意用于生成某些东说念主眼中的儿童色情图片。（在被媒体曝光后，该公司加多了更严格的防控轨范。）此外，斯坦福大学（Stanford University）的商量东说念主员发现，一款用于磨砺AI图像生成器的热点开源数据赓续，有3，000多条疑似儿童色情本体。

在线看片

Chub AI咫尺仅提供文本互动，但其首创东说念主称，该网站磋议将来推出附带图片功能。他还表示，图片会采纳审查，但他并未提供更多细节。（金钱汉文网）

译者：刘进龙

审校：汪皓男同 按摩

• 男同 按摩
• AI
• 模子
• 刺激
• 儿童