上世纪末的作品《攻壳机动队》中，全身义体化的素子，怀疑自己是否仍然存在。身体、记忆和其他人的关系，当这些事物都能够被复制，也就无法成为肉身生命的论据。' O; A9 O$ l5 J# d& O C" X
0 U. c1 J+ c' e! E# {
2 F+ _4 f: f0 ]) K, ~4 v gAI 歌手爆火之时，孙燕姿也在回应里提出类似的观点，你并不特别，你已经是可预测的，而且不幸你也是可定制的。
+ h" } L6 I- m+ o/ q2 J2 U q$ L9 g9 }) ^" e8 z
我们可以加上一句，任何人都是可以被 AI 描述和生成的，哪怕你从未做过某些事情。
+ j8 w4 H' E# D" h) n( e9 O
) C3 m% b5 G* G8 k8 ^3 @6 ]4 D鲁迅真的说过，一见短袖子，立刻想到白臂膊。人类的想象力是共通的，毫不意外，每当技术有新进展，某个垂直赛道会被开发得越发成熟：搞黄色。
& g9 E, B4 a2 K3 T: ]4 u) P2 R8 N2 A! [* ^7 p% i, ^. \6 Q7 y0 C
从明星网红，到每个普通人& x1 R/ O4 k( n3 v% k
- _3 D" |; g2 }4 j% j3 {" L& K
2017 年兴起的色情 Deepfake 有续集了。, b5 T$ L+ E8 p% X0 u) K& _8 T
: a# _- O# M, X2 v
之前是换脸的「移花接木」，眼下是数行文字的「无中生有」。2 q" |9 `, D- }8 l7 u v! P
4 x+ D% g7 B' L2 P% I& d% P# LAI 作图发展到如今，已经有了很多分享 AI 模型的网站，你可以用来生成各种风格的图片，莫奈笔调风景画、韦斯·安德森配色产品图，当然也包括仿佛真人出镜的色情场景。7 z! Z5 F/ @+ K& t4 W+ [7 S8 _
% r2 [; F" J1 {# V0 d, V+ E, }$ v( K
「Create Anything（创造任何东西）」，这是其中一个网站（避免有宣传之嫌，名字就不透露了）打出的旗号。虽然啥都能干，不少用户更愿意在「十八禁」大展拳脚。# ]# {. F. ? \2 |2 m
6 A' G$ P& D) l6 `# h- h' b( @" {! b) Z: D
在文本框输入名人名字，加上「裸体」等提示词，就会得到一个模糊的图像。接下来是另外的价钱，每月 4 美元试水基础版，或者每月 15 美元尊享专业版。1 a- n* `# z. W1 Y
4 l+ C/ i( W2 d4 d+ D, T 付费解锁界面，NSFW 意为「工作场所不宜」，一般指色情、暴力等内容.
" k! {8 D7 z! C3 z+ O6 H8 \2 G. L1 D6 A0 T
不仅如此，生成图片之后，提示词公开可见，让类似喜好的其他用户沿用或者迭代都很方便。
J9 ~1 D- N3 ^* L0 |0 A5 Q) c' e. l5 B
另外，这个网站在聊天软件 Discord 有 3000 多名成员和数十个聊天室，他们讨论的都是怎么精进提示词技巧，从而更符合自己对某个部位和姿势的想象。
$ `3 X! R, e* s, X2 O/ w+ p b/ e
好莱坞女星的 AI 模型，已经下载 1300 次.
0 `% C% R! }, n. c6 O
8 s. ~9 g% Z+ V" B6 t1 r网站的创始人在接受采访时说，NSFW 只占平台内容的一小部分，每月有 100 万个活跃的创作者产出独特的作品。
, `0 `5 Y3 x% L& M5 k" u; J$ k6 f
* m! s7 r/ t% a$ o在另一个类似的网站，用户可以上传、共享和发现自定义模型，同样是什么风格都有，动漫风、游戏风、胶片复古风…… 但人性所致，带颜色的模型人气居高不下，最热门的几个已经被下载六七万次。
5 `& S* C: f- i# ~& W* l4 I8 f% y: F" _. T7 Y
一个「擦边球」模型. 7 G. h* ^7 K0 E9 k+ w9 {
. K0 W' h0 w# p/ r: P
色情固然是互联网的一部分，然而问题在于，训练这些模型的真实人物图片，是在互联网擅自抓取的，并没有经过本人的同意。+ o; v' o/ C& b8 Z0 b6 d/ k
# }0 [3 @1 u+ Q: n% w% h2 }8 E
有些图片也不是完全露骨，而是让名人穿着内衣，或者某个部位看起来更大，但五十步笑百步的做法，仍然是不道德的。
9 y2 p6 O% Y/ k! x8 g. e) C
( B' j1 c. y1 o; }- @! V这时候就需要稍微解释下原理。很多个性化的 AI 模型，都是基于开源的 Stable Diffusion 微调，而 LoRA 又是一种主流的模型微调训练方法，因为它相对轻量化，用少量图片训练，便能生成特定的人物、物体或画风。; b3 z( m' M9 q$ X; M5 \3 i
- l. m, t; W# e& O之前很火的赛博 COSER 用的也是 LoRA. 图片来自：@勘云工造 / r& W, C8 F1 @" [$ o4 m0 I9 Y
: ?6 T4 G( W- I, `5 [# J: U那么对于色图，谁成为了微调数据集呢？
- s& i7 l0 G! z- j8 n, o6 @7 W( U9 l" y
独立媒体公司 404 Media 调查发现，其中一个模型的训练数据，来自「美版贴吧」Reddit 的几个成人主题社区。) u6 q8 ]; p4 r ^/ S
. ?- o1 p9 M! P( h' T
0 G1 K) b& h1 C) z" K" o: }( h& i2 [/ I
愿意上传图片，不代表愿意充当 AI 的口粮。一位负责管理社区的 Reddit 用户怀疑，大多数在 Reddit 发布裸照的人，可能并不知道照片正在被用来喂养 AI 模型。
E" q y# G4 Q( L. r* o# x: ~8 Y+ C: G2 q: n: v
倒也不是发出裸照才有威胁。7 月初，德国电信发了一条关于儿童数据安全的广告，展现个人数据被拿去使用是多么容易，后果又是多么严重，呼吁家长尽量少在互联网分享儿童隐私。4 v. v! p1 j& d* U
5 r/ V4 Z% l% C( `1 o% v# P1 p
德国电信广告部分截图，儿童照片可能会被用于制造成人内容. + Y: j/ F$ J) c: A+ n3 ?
8 f' H" m# W( Y$ x- a; g这也意味着，威胁不仅在明星和网红头上盘旋，也可能击中在互联网路过的普通人，恐怕离人人都有一个 AI 模型的未来也不远了，只要你我在互联网上有过数字痕迹。
- G% [0 @1 }9 f) u( L5 E6 Z3 i# i$ }
* M8 b0 X) _. B# O- [+ z% q [( O根据今年 7 月的互联网状况统计报告，近 50 亿人（48.8 亿）活跃在社交媒体上，占世界总人口的 60.6%。
3 r& z/ Q2 I* q- ]) K4 j& y4 z% G& B: A! U
8 o0 H4 C+ ^; E/ K
或许有人会问，这不是 Deepfake 换脸时就有的毛病吗？是的，但伪造图片的脚步不会停下，已经存在的问题变本加厉。
9 M, C' r; W, `) t9 Y* b) E- `+ [6 }6 c0 I( k% [4 S) [
从基于生成式对抗网络的 Deepfake，到模拟粒子热运动过程的扩散模型，训练数据集扩大了、算法框架迭代了、算力水平也提升了。更直观的是，普通人在 AI 上也有参与感了。1 J K. `' l9 j- c* d% z4 `2 O D4 n
- O; |# Z4 C; v# b从前我们更偏向 AI 消费者，或是刷到真假难辨的汤姆·克鲁斯微微一哂，保持看热闹的旁观心态，或是换上好玩的滤镜跟进社交媒体潮流，交出去的基本是自己的个人信息。* w7 E7 _% h" x. ?4 v4 c' `
8 R' K6 J1 |( i2 p& |5 \9 v6 h/ {TikTok 的「汤姆·克鲁斯」，本人看了也得犯迷糊.
7 E0 L! G6 c5 K* ~$ O
; ]* X6 F. S2 l {现在我们都可以是 AI 生产者，登录 AI 模型网站，在文本框输入提示词，由云计算处理需求，几分钟就可以生成某位名人的定制 AI 作品，哪怕质量不好，用户规模和图片数量是空前的，每个月产出上百万张图片不在话下。+ N# R% E5 z% C6 f: U
8 D, m$ J$ P C( @: }, T
某 AI 模型网站的生成速度，最多需要 1 分钟.
" f [4 P5 J, }6 Q) T4 u
+ ^( H7 E) H$ ^0 pAI 成人内容的可怕之处还在于，既要从真人取材，也要回归「真实」。
`; U) W" J. Q" r5 d0 z
0 z- K) E" l& F1 i0 t/ L0 `各网站最受欢迎的模型之一非常强调现实感，用户们还在 Reddit 讨论怎么给某个器官特写。行业里最优秀的创作者，甚至称自己的作品就像「1080P+ 视频的定格帧」。8 t1 [, B5 G+ N
* y9 G2 [2 \+ ]
可想而知，骚扰和勒索也可能会增加，技术的恶面往往最先向无法自保的人刀剑相向。: A9 k1 q1 [0 c" b0 S
: b8 r% `& O( Y+ W: i' h
是兴趣，更是交易
1 I2 w, u! e9 Z; p' |/ v, w3 p6 Y, o! p
和性搭上了边，那就不缺交易。买家是出于个人兴趣，卖家则是因为真金白银。除了上文提到的订阅模式，用 AI 色图赚钱的方式还有很多，虽然基本都是「打零工」。2 L" w9 M* R) j; e
2 V6 `6 {% u0 q* b" g
在 Patreon、Ko-fi 等具有打赏、赞助功能的平台，可以找到创作者的踪影。一位创作者在 Patreon 有 100 多名付费会员，巅峰时期每个月能赚到 1500 美元。% g$ Q6 P$ D7 j) ?
$ g v7 u5 y! }0 p& A. Y他还顺便加入了另外一个平台的「创作者计划」，每张图片入账 0.001 美元，虽然单价低，但好在他使唤 AI 的速度够快。9 }2 @! f' q+ P* R% ]6 N. \5 J
5 y! _2 D$ K) U& JPatreon 的订阅界面.
6 Z) M6 N8 O" f9 ?, P& Q* y
- F- Z) M0 i$ P) Q任务众包平台 Fiverr 也值得一提，它是一个连接甲方乙方的中介，几乎可以购买和出售任何数字化「零活」，比如写作、翻译、设计，不少 AI 创作者明码标价，按照模型和图片数量阶梯收费。
4 X3 i: u; m% V& N6 @
3 I M) D" Y2 ~/ T一位 Fiverr 创作者的接活界面.
( t0 O5 g" m5 H% Z7 a! U8 {0 G* `! r
( U! ]6 Q0 Y# U1 \- y4 U( D还有作风更加极客的创作者，直接在 AI 模型网站贴出比特币钱包地址。
/ B, @6 N' t' a" O) K5 x. S. f/ ]' n% |+ m( C* {1 d$ D1 s1 j, y
别说个体创作者了，平台同样赚得盆满钵满。5 v4 |4 d! M- L/ [0 d3 |! f7 A
! C/ T. [4 H- h3 `2 t0 v有的 AI 模型网站自己也有打赏功能，同时提供每月 5 美元的会员福利，让用户可以抢先体验新功能，并在官网和 Discord 上的用户名后面戴上独特的徽章。
9 I- \8 J3 r4 w0 K# M3 w3 w3 F0 v% q& s3 C
AI 模型网站的打赏功能. ; [5 w: n. ?! T0 Q5 I8 t3 ~ i
$ `) _7 V% w) T8 c% }& l/ \; T7 E号称全世界第二大成人网站的 OnlyFans，不像 P 站收入主要来自广告并按视频点击量和创作者分成，创作者可以通过用户订阅和按次付费赚钱。% f N/ G$ e! k
* D7 m! B& A, d) n) M" l1 e有观点认为，OnlyFans 改变了成人产业，因为创作者拿回了主导权，通过自己的作品直接获得收入。1 N1 q+ `, I& k
C; g& B' l$ j' s' I% M* [
然而现在，出图更快的「AI 师傅」也在复刻这套商业模式，「传统手艺人」的生财之路可能再次被打断。
, t& [2 A9 |* D3 x! Z7 t% a( t3 W* S. z: ^" O) ^
/ E2 d2 [" l+ Y4 q, @& O$ ?7 ]这一集我们在 Deepfake 视频大行其道的时候就看过。彭博社采访的一位 29 岁网红，是其中一位惴惴不安的受害者。
1 D0 Y; ^% j9 n$ J. Z# [
" y1 Y6 K6 z0 j放在以前，如果想看她玩电子游戏，可以每月花 5 美元订阅 Twitch，如果想看她尺度更大的内容，可以每月花 15 美元订阅 OnlyFans。
4 V4 L) J# X: N" a9 W7 P: u; T5 e5 V8 o; p# o" k1 M0 Q
- Z8 ~' o2 A: w+ F1 s9 c1 b
然而现在，粉丝可以花更少的钱或者免费观看她的 Deepfake 视频，只要带着她的大名搜索 Google。与此同时，心理创伤如影随形：
# f2 i8 P+ o! {8 v# ]4 \/ ^% B2 U" h8 X2 t0 I% a: N; C% [
人们总是在发布新视频，在你不同意的情况下看到自己出现在色情片中，感觉很恶心。- @0 a, v3 ?1 X1 }' b8 W1 i, x
c6 T% W& t, O, @
AI 色图这把火，也迟早烧到真人头上。一位在 Reddit 发图的「女菩萨」很是悲观：' L5 g( u: p/ l
2 s" } U; Q: Y1 i4 J过去没有采取任何措施来保护我们，所以我不明白为什么现在会激励任何保护措施。
# T, j8 Z0 V0 P0 O
; Z8 p. y3 U2 Q" Y操作猛如虎，维权打地鼠; O0 m$ ?* @! | Y7 _7 ?+ ~
& J9 x8 E0 A, |5 p7 H' O作恶成本低、维权成本高，是 2017 年「黄色」Deepfake 兴起之时就有的毛病了，现在它只会变得更加严重。
% ]7 F% i9 W. z. Y6 H) U1 d" _1 P- h7 |# I) w
撤下未经本人同意的 AI 色图，往往是靠受害者自行发现，或者平台事后补救。7 R# D9 X# @* L N* d& @: `1 o
+ A0 h$ W4 `! ]0 `- O6 L- q- ~0 K, s4 h2 K( L
按照 Google 的服务条款，如果证据充分，用户可以请求 Google 删除某条具体的链接。然而「野火烧不尽」，这就像一个没有终点的打地鼠游戏。
B% k* m3 w# p9 P4 l3 u. G- X
/ k/ g1 R! V) q8 i4 ?不过，Google 也在改进排名系统，减少此类内容的出现。
) n- x4 {7 R: e' d2 r. h7 n6 h! ]4 R: L. S, P* J
Google 的服务条款.
7 W% T, d% }7 h- w8 f
8 S9 X6 P4 L9 {9 F提供 AI 模型的平台们也并非没有意识到，技术存在被滥用的可能，但前所未有的内容规模，已经不允许平台只是沿用以前的审核策略。
) w* M! |" E% ~; e+ f0 `; l" ^5 x0 T
/ p/ T4 @( w. m9 H0 G$ q/ ?404 Media 记者发现，某 AI 模型网站的服务条款允许色情内容，也允许真人内容，但不允许两者兼而有之的真人色情内容，尤其涉及到未成年时。
+ o3 O1 |9 z% @, b
1 F2 a4 j& c: P0 a. o! G* D然而，此类内容仍然不断发布，部分被平台删除，部分已经「幸存」了几个月。/ y& r- E1 s$ T8 K4 f
7 ~. X" u8 j& M0 H) q某 AI 模型网站的服务条款.
/ O# @5 W: w& D H5 U% g1 F# F- Y, |5 U2 v' ]8 r9 d% f4 x
只能说，意识到位了，但方法没有。对技术的规范，总是相对技术落后半步。
0 A( ]9 C7 f+ G
& u& x# K% n$ |( Z) u类似地，生成真人色情图像，违反了 Discord 的社区规则，但管理起来并不容易，靠的主要是用户自觉。9 V, k* E# `4 ]$ A% w
; F7 Y+ j8 o0 `. b( m
Discord 的信任与安全团队，负责检查用户、版主或记者的报告，如果有人确实违反了社区准则，那就发出警告、删除内容、关停账号等，存在一定的被动性。
u* u- H2 o6 h2 a- ~! q7 ?
8 {: ` Y: j. O. k% ]1 c+ nDiscord 的社区准则，上为原文下为翻译. e9 I b* l! s. ]: P, g S1 W
V& M C2 p6 L7 `% y
讽刺的是，把 AI 色图分享到 Discord，也会被 AI 模型网站的用户内部批评，不是问心有愧，而是因为这坏了规矩，有可能让社区被禁：「你可以在网站上创建它，但不能在这里分享。」
' |- u+ Z. }( }/ X# ? y+ V9 p
p) U9 B& {! k3 t甚至法律也不一定派上用场，就像 Deepfake 存在这么久了，美国只有几个州在为它立法，但因为杂乱无章，很难真正执行，并且有些创作者想尽办法隐藏身份，既然找不到人维权，很多时候受害者只能吃下哑巴亏。; e* P; T* M* _9 t
! K- n& `0 v t* ]5 k h4 R
好在几个更加主流的文生图工具，用技术为技术事先附加了制约。
* c; D, [/ s7 `/ d
1 X/ n* K* n7 h1 G0 s5 D! {, K
2 T$ I. r3 U$ D5 t& E* tOpenAI 旗下的 Dall-E，尽可能减少了训练数据中的裸体图像，并且在实际使用过程中，阻止某些提示词的输入，以及在图片显示给用户之前扫描输出结果。
' q2 L4 C' T9 x) C7 j
# H* g& i" U* l: R( b6 D BMidjourney 也有屏蔽词和人工审核，还计划推出更先进的、能够关联上下文的过滤功能。
: L. i0 @" ]' s/ r
2 V' g A: t- w, \Stable Diffusion 背后的公司 Stability AI 也曾回应过类似的问题，「对任何开源代码所做的事情都是无法控制的」。
$ P+ _& A6 ?5 T4 d; L9 t, c) d$ C' Z3 J9 P. P
尽管如此，Stability AI 认为，识别此类行为并将其定为犯罪，还有很多事情可以做，开发者社区和互联网基础设施提供商也应该参与进来。: ]1 J1 ]+ A7 m: h1 R! @5 @
. M1 X1 {) w, s6 |/ n
' o2 C2 P2 i" R) e/ B( K% T' k
简言之，对技术的规范就像钝刀子割肉，不能立刻起效，而 AI 色图的问题远比以前严重，靠的是一条运行顺畅的「生产链」：8 y. {9 g. \5 h e" |2 K7 \
) J! s) T u& J2 {1 N& K3 d提供训练图像的内容社区；. V+ y+ Z* z! I+ v4 x
4 z3 `: k2 S, R" l9 g6 m
生成色图的开源技术；# X. B" U, t- ^
* W6 E5 w+ D+ N) P6 o c3 z将 AI 模型和图片商业化的平台；
* V+ |3 s3 M, @
' f6 }1 A! {8 I! g3 d自从 Deepfake 问世，我们就遇到了同样的问题。人性难测，技术的普及和滥用只有一步之遥，工具更加容易上手了，商业模式也走通了，那么创建和分发色图的动力就更大了。
& f9 g) d2 }# b. ?! O; N
- |( j8 J: |, Q. a: [% M& g6 Q, m# Z1 O g$ n, b% U) B1 F
很多时候，互联网的成人行业已经被「非人化」地看待，当真正非人的 AI 取而代之，继续满足刻板印象，可能导致物化更上一层楼，而不是停止物化。9 I4 U: B1 P/ \' h B
; Q6 l" I. W1 B% L就像《攻壳机动队》提出的问题那样，真实和虚假不再沟壑分明。完全像你的人做出了你从来不会做的事，但你很难证明那不是你，数据就是你，存在过的痕迹就是你。
' l1 I& N- D/ j+ N8 @0 k6 M
( R7 I) d- @0 Z: ?/ ], e! G每当 AI 被最先应用到色情产业，总有人说，这会加速技术普及，或者不再需要真人。有人用金钱兑换欲望，有人不经意被投入技术熔炉，却没有谁会为伤害买单。2 W6 Y1 N0 ]: [" s. i [) D
# O: L" }4 C, p4 n' F
来源：爱范儿 张成晨
/ I& H& a% p3 [. t: f# {- v1 J* d# ^$ f |
发表于 2023-9-8 09:58
发表于 2023-9-8 12:19