你在社交平台分享的照片，下一秒可能沦为 AI 成人内容的口粮

产品邦V大

上世纪末的作品《攻壳机动队》中，全身义体化的素子，怀疑自己是否仍然存在。身体、记忆和其他人的关系，当这些事物都能够被复制，也就无法成为肉身生命的论据。

1 M2 R) F4 }4 F9 j4 |3 O) I7 M& ~1 \3 ~

# l# y/ ~/ e: ~, M. o4 W  VAI 歌手爆火之时，孙燕姿也在回应里提出类似的观点，你并不特别，你已经是可预测的，而且不幸你也是可定制的。

* D& r" Y# @4 k) Z) L我们可以加上一句，任何人都是可以被 AI 描述和生成的，哪怕你从未做过某些事情。

鲁迅真的说过，一见短袖子，立刻想到白臂膊。人类的想象力是共通的，毫不意外，每当技术有新进展，某个垂直赛道会被开发得越发成熟：搞黄色。
+ t  _% Y: {" G9 o
从明星网红，到每个普通人

" Q, v' g* T3 R6 U5 C& T2017 年兴起的色情 Deepfake 有续集了。
- D5 T3 b: P2 p4 ]
) K* J+ f3 v) U之前是换脸的「移花接木」，眼下是数行文字的「无中生有」。
8 v6 C, u5 @, B  d! |5 k) \6 `7 f: o
AI 作图发展到如今，已经有了很多分享 AI 模型的网站，你可以用来生成各种风格的图片，莫奈笔调风景画、韦斯·安德森配色产品图，当然也包括仿佛真人出镜的色情场景。
+ q4 T4 e& X, i; \* o1 Q, S
3 Z$ P2 _/ i  e+ {0 Z; I! k「Create Anything（创造任何东西）」，这是其中一个网站（避免有宣传之嫌，名字就不透露了）打出的旗号。虽然啥都能干，不少用户更愿意在「十八禁」大展拳脚。

- K) `! a* S0 t/ F  p

& t9 A! w. e, ~1 C在文本框输入名人名字，加上「裸体」等提示词，就会得到一个模糊的图像。接下来是另外的价钱，每月 4 美元试水基础版，或者每月 15 美元尊享专业版。

2 C9 I1 J! _) A3 C' W0 d: v" `; n

付费解锁界面，NSFW 意为「工作场所不宜」，一般指色情、暴力等内容.

4 I0 b8 A( ~7 r不仅如此，生成图片之后，提示词公开可见，让类似喜好的其他用户沿用或者迭代都很方便。

另外，这个网站在聊天软件 Discord 有 3000 多名成员和数十个聊天室，他们讨论的都是怎么精进提示词技巧，从而更符合自己对某个部位和姿势的想象。
! p; l% \4 J/ j( a- }: S6 y
0 |; I1 m. f* t* u5 A: p3 x

好莱坞女星的 AI 模型，已经下载 1300 次.

网站的创始人在接受采访时说，NSFW 只占平台内容的一小部分，每月有 100 万个活跃的创作者产出独特的作品。
# L2 r! C# i- p' f8 J
+ e( g1 |$ k2 B6 q' \在另一个类似的网站，用户可以上传、共享和发现自定义模型，同样是什么风格都有，动漫风、游戏风、胶片复古风…… 但人性所致，带颜色的模型人气居高不下，最热门的几个已经被下载六七万次。

, G/ D: x; L/ F" r+ D! d$ u& U5 p- s

一个「擦边球」模型.

色情固然是互联网的一部分，然而问题在于，训练这些模型的真实人物图片，是在互联网擅自抓取的，并没有经过本人的同意。
' y3 h& J; d- e9 E' x
有些图片也不是完全露骨，而是让名人穿着内衣，或者某个部位看起来更大，但五十步笑百步的做法，仍然是不道德的。
6 b# |- S* j* @5 b3 x$ o
这时候就需要稍微解释下原理。很多个性化的 AI 模型，都是基于开源的 Stable Diffusion 微调，而 LoRA 又是一种主流的模型微调训练方法，因为它相对轻量化，用少量图片训练，便能生成特定的人物、物体或画风。

4 Q" j& w) ]# `+ Y1 S' c

之前很火的赛博 COSER 用的也是 LoRA. 图片来自：@勘云工造

" A1 K) r8 I! y3 r
4 T$ A  ^% L" J# C那么对于色图，谁成为了微调数据集呢？

/ v, J( u% W0 P# x独立媒体公司 404 Media 调查发现，其中一个模型的训练数据，来自「美版贴吧」Reddit 的几个成人主题社区。

) Y' _  l" }/ F8 J3 @; |- X9 Q
愿意上传图片，不代表愿意充当 AI 的口粮。一位负责管理社区的 Reddit 用户怀疑，大多数在 Reddit 发布裸照的人，可能并不知道照片正在被用来喂养 AI 模型。
, P5 U0 u0 L# f" w- e: \
倒也不是发出裸照才有威胁。7 月初，德国电信发了一条关于儿童数据安全的广告，展现个人数据被拿去使用是多么容易，后果又是多么严重，呼吁家长尽量少在互联网分享儿童隐私。

3 c) u3 U; U6 N

德国电信广告部分截图，儿童照片可能会被用于制造成人内容.

# J  F- Z0 {: _% |* E这也意味着，威胁不仅在明星和网红头上盘旋，也可能击中在互联网路过的普通人，恐怕离人人都有一个 AI 模型的未来也不远了，只要你我在互联网上有过数字痕迹。

3 z. Z, s* S) n) I# V根据今年 7 月的互联网状况统计报告，近 50 亿人（48.8 亿）活跃在社交媒体上，占世界总人口的 60.6%。

4 P" _, {% t3 A! s$ i

或许有人会问，这不是 Deepfake 换脸时就有的毛病吗？是的，但伪造图片的脚步不会停下，已经存在的问题变本加厉。
1 X' I0 ]6 K6 }2 s  A% H0 o
% M8 t/ S( I9 C# t) X2 @) ?2 Z5 K& L从基于生成式对抗网络的 Deepfake，到模拟粒子热运动过程的扩散模型，训练数据集扩大了、算法框架迭代了、算力水平也提升了。更直观的是，普通人在 AI 上也有参与感了。

从前我们更偏向 AI 消费者，或是刷到真假难辨的汤姆·克鲁斯微微一哂，保持看热闹的旁观心态，或是换上好玩的滤镜跟进社交媒体潮流，交出去的基本是自己的个人信息。

$ n. A7 b$ O# q5 e3 `9 V6 k# _3 @# V

TikTok 的「汤姆·克鲁斯」，本人看了也得犯迷糊.

1 m3 G) ^: [" L. v现在我们都可以是 AI 生产者，登录 AI 模型网站，在文本框输入提示词，由云计算处理需求，几分钟就可以生成某位名人的定制 AI 作品，哪怕质量不好，用户规模和图片数量是空前的，每个月产出上百万张图片不在话下。
$ H0 F2 |4 Z, {2 ]9 A# ^+ q- D4 Z
( c( P9 I! t3 r" i1 f8 r

某 AI 模型网站的生成速度，最多需要 1 分钟.

/ ~  K, J7 O- u9 A; f# ~
AI 成人内容的可怕之处还在于，既要从真人取材，也要回归「真实」。
$ O7 g3 P* A: w! G/ J3 v) v( Q
1 [2 {" k5 L* ~5 `- Y2 @5 w0 r# O各网站最受欢迎的模型之一非常强调现实感，用户们还在 Reddit 讨论怎么给某个器官特写。行业里最优秀的创作者，甚至称自己的作品就像「1080P+ 视频的定格帧」。

! ]* M. Z, [" N$ C! q+ ?可想而知，骚扰和勒索也可能会增加，技术的恶面往往最先向无法自保的人刀剑相向。

是兴趣，更是交易
$ L' R7 K9 z: v- }: i
4 @/ f7 y' L" b3 }8 Y和性搭上了边，那就不缺交易。买家是出于个人兴趣，卖家则是因为真金白银。除了上文提到的订阅模式，用 AI 色图赚钱的方式还有很多，虽然基本都是「打零工」。
8 R0 H/ r1 B' c0 z2 z6 t- c
$ v0 @9 x( N2 `# @* R' h在 Patreon、Ko-fi 等具有打赏、赞助功能的平台，可以找到创作者的踪影。一位创作者在 Patreon 有 100 多名付费会员，巅峰时期每个月能赚到 1500 美元。

他还顺便加入了另外一个平台的「创作者计划」，每张图片入账 0.001 美元，虽然单价低，但好在他使唤 AI 的速度够快。
8 W* H+ Y) a4 f2 Q! ?; h$ G

Patreon 的订阅界面.

任务众包平台 Fiverr 也值得一提，它是一个连接甲方乙方的中介，几乎可以购买和出售任何数字化「零活」，比如写作、翻译、设计，不少 AI 创作者明码标价，按照模型和图片数量阶梯收费。
2 k6 K2 o# [1 ^$ |5 ?

一位 Fiverr 创作者的接活界面.

) V) b: j6 k6 I9 D0 N0 u还有作风更加极客的创作者，直接在 AI 模型网站贴出比特币钱包地址。
( z$ Q$ G# Z4 s' `7 y
别说个体创作者了，平台同样赚得盆满钵满。

$ o7 G* l' @( t; ~$ B5 B) d' a有的 AI 模型网站自己也有打赏功能，同时提供每月 5 美元的会员福利，让用户可以抢先体验新功能，并在官网和 Discord 上的用户名后面戴上独特的徽章。
2 C& Y0 E( ?0 _& l- w) D
6 X. K9 L4 G4 ^9 p

AI 模型网站的打赏功能.

: j0 @. P) l' K& W0 g# _
" t4 |% t+ Z9 [/ U: _  F# u& p. o号称全世界第二大成人网站的 OnlyFans，不像 P 站收入主要来自广告并按视频点击量和创作者分成，创作者可以通过用户订阅和按次付费赚钱。
; X2 e/ J2 ]& e4 W# _6 {# Y
4 M8 p: E1 ~( `2 t有观点认为，OnlyFans 改变了成人产业，因为创作者拿回了主导权，通过自己的作品直接获得收入。
# k9 m( E  P# i+ D$ i' ?% g
' p2 ]; D# p. t# h& A3 n然而现在，出图更快的「AI 师傅」也在复刻这套商业模式，「传统手艺人」的生财之路可能再次被打断。
! C- m& Z( K& M: c

这一集我们在 Deepfake 视频大行其道的时候就看过。彭博社采访的一位 29 岁网红，是其中一位惴惴不安的受害者。
& S- n0 e1 U+ D, E. Z0 T1 m
8 V) i1 T& `* U9 D7 f放在以前，如果想看她玩电子游戏，可以每月花 5 美元订阅 Twitch，如果想看她尺度更大的内容，可以每月花 15 美元订阅 OnlyFans。
$ t2 x! q  S, P! ?$ e

然而现在，粉丝可以花更少的钱或者免费观看她的 Deepfake 视频，只要带着她的大名搜索 Google。与此同时，心理创伤如影随形：

; `) z9 O# S: g$ `9 H2 f人们总是在发布新视频，在你不同意的情况下看到自己出现在色情片中，感觉很恶心。

AI 色图这把火，也迟早烧到真人头上。一位在 Reddit 发图的「女菩萨」很是悲观：

过去没有采取任何措施来保护我们，所以我不明白为什么现在会激励任何保护措施。

操作猛如虎，维权打地鼠

作恶成本低、维权成本高，是 2017 年「黄色」Deepfake 兴起之时就有的毛病了，现在它只会变得更加严重。

! g( _0 Y! A8 U- e& X7 c* L" S撤下未经本人同意的 AI 色图，往往是靠受害者自行发现，或者平台事后补救。
7 ^' a8 Z( C+ [7 L& {) P+ B) q
8 P# h8 a5 V$ G4 l# b7 P+ x8 \

! {- J1 _1 ?* B8 j# n* U) O1 F3 @& I按照 Google 的服务条款，如果证据充分，用户可以请求 Google 删除某条具体的链接。然而「野火烧不尽」，这就像一个没有终点的打地鼠游戏。
3 f% V4 B2 N. r1 c
0 H  I3 y8 x% }' W5 y+ i不过，Google 也在改进排名系统，减少此类内容的出现。
( F+ N, I5 r0 Y' B
9 X, }! a0 R5 e( ~; ?$ p

Google 的服务条款.

提供 AI 模型的平台们也并非没有意识到，技术存在被滥用的可能，但前所未有的内容规模，已经不允许平台只是沿用以前的审核策略。

404 Media 记者发现，某 AI 模型网站的服务条款允许色情内容，也允许真人内容，但不允许两者兼而有之的真人色情内容，尤其涉及到未成年时。
4 y. ~3 A. y- k* H& X8 C4 ~
然而，此类内容仍然不断发布，部分被平台删除，部分已经「幸存」了几个月。
9 W% y8 B( @& k, H  d* y# v9 h
" O) P& n6 S7 o3 u: ~

某 AI 模型网站的服务条款.

9 Z6 e- p+ U( L9 F3 x& p$ s
: E; G5 Q7 i- R8 i8 k$ Y只能说，意识到位了，但方法没有。对技术的规范，总是相对技术落后半步。

类似地，生成真人色情图像，违反了 Discord 的社区规则，但管理起来并不容易，靠的主要是用户自觉。
% C. }9 L& }  d& h9 P7 O
Discord 的信任与安全团队，负责检查用户、版主或记者的报告，如果有人确实违反了社区准则，那就发出警告、删除内容、关停账号等，存在一定的被动性。
0 X8 S! A7 G# w+ k2 N
, O- G+ a. x/ z8 @& Q

Discord 的社区准则，上为原文下为翻译.

1 `5 \# t" K; H+ d/ Y) x
* c. r8 p. h/ V. y讽刺的是，把 AI 色图分享到 Discord，也会被 AI 模型网站的用户内部批评，不是问心有愧，而是因为这坏了规矩，有可能让社区被禁：「你可以在网站上创建它，但不能在这里分享。」
- e6 E0 ~# c: N1 W+ ^, G# z# y, A
7 V5 s$ `" G: m& b8 E+ k甚至法律也不一定派上用场，就像 Deepfake 存在这么久了，美国只有几个州在为它立法，但因为杂乱无章，很难真正执行，并且有些创作者想尽办法隐藏身份，既然找不到人维权，很多时候受害者只能吃下哑巴亏。

8 ]+ e; P4 ~: i( _& B好在几个更加主流的文生图工具，用技术为技术事先附加了制约。
, {8 O: D& K, Y  i# ]4 n
1 B3 }4 q% G) A8 L8 {

OpenAI 旗下的 Dall-E，尽可能减少了训练数据中的裸体图像，并且在实际使用过程中，阻止某些提示词的输入，以及在图片显示给用户之前扫描输出结果。
! d9 g9 C0 b) G& T8 M7 @  ]! Q
Midjourney 也有屏蔽词和人工审核，还计划推出更先进的、能够关联上下文的过滤功能。

) j! Y" y: W0 r$ N: x' n$ F" N/ ^2 ]Stable Diffusion 背后的公司 Stability AI 也曾回应过类似的问题，「对任何开源代码所做的事情都是无法控制的」。

0 f9 U4 b' }' ^' [+ l尽管如此，Stability AI 认为，识别此类行为并将其定为犯罪，还有很多事情可以做，开发者社区和互联网基础设施提供商也应该参与进来。

+ |2 X( [, x2 r9 P( }2 h

& i! M9 D1 I) F  Q* R3 m5 _简言之，对技术的规范就像钝刀子割肉，不能立刻起效，而 AI 色图的问题远比以前严重，靠的是一条运行顺畅的「生产链」：

' L" i! e0 T3 u2 _提供训练图像的内容社区；

  b! e8 e5 [7 `生成色图的开源技术；
* r/ T$ ]( A! y3 o; e( j+ v5 _
' [, k" i. s9 C8 O9 ~将 AI 模型和图片商业化的平台；
( k$ o( Z, \# s- W4 R" G% e8 @
自从 Deepfake 问世，我们就遇到了同样的问题。人性难测，技术的普及和滥用只有一步之遥，工具更加容易上手了，商业模式也走通了，那么创建和分发色图的动力就更大了。
/ G6 P: J3 C( [+ J- p( H+ l
# \! W7 ^4 j* e, z9 Z

很多时候，互联网的成人行业已经被「非人化」地看待，当真正非人的 AI 取而代之，继续满足刻板印象，可能导致物化更上一层楼，而不是停止物化。
0 D: u. r* Z4 ?, [$ s5 h' o, A1 M; R% I
, ~! a/ y- {. B" Z8 d就像《攻壳机动队》提出的问题那样，真实和虚假不再沟壑分明。完全像你的人做出了你从来不会做的事，但你很难证明那不是你，数据就是你，存在过的痕迹就是你。

每当 AI 被最先应用到色情产业，总有人说，这会加速技术普及，或者不再需要真人。有人用金钱兑换欲望，有人不经意被投入技术熔炉，却没有谁会为伤害买单。
5 W; l. i# g, \1 v" \) @  y
; R0 W. ~: J: y( E来源：爱范儿 张成晨
/ [! C+ c! V, d0 @

lemon395

yuanyer 发表于 2023-9-8 12:19
你的回忆，别人的数据，这句话破防了

这句话太经典了