上世纪末的作品《攻壳机动队》中，全身义体化的素子，怀疑自己是否仍然存在。身体、记忆和其他人的关系，当这些事物都能够被复制，也就无法成为肉身生命的论据。
! \) W$ F V4 _: \7 a2 O3 R7 Z) n) W% Q
! c8 [% @; {' a8 LAI 歌手爆火之时，孙燕姿也在回应里提出类似的观点，你并不特别，你已经是可预测的，而且不幸你也是可定制的。
& C' M8 [& @! ]; o) X% s! \8 p3 s: O W
我们可以加上一句，任何人都是可以被 AI 描述和生成的，哪怕你从未做过某些事情。
7 c- D. z1 ^( s: k8 F
( l. U8 Q/ S$ V$ i% V6 \鲁迅真的说过，一见短袖子，立刻想到白臂膊。人类的想象力是共通的，毫不意外，每当技术有新进展，某个垂直赛道会被开发得越发成熟：搞黄色。# l& G0 {( L6 x3 y+ d9 t. N
, ~0 W* J- x& L: K* q从明星网红，到每个普通人
+ M- {/ F' E5 C3 @6 N# c
% m B- B+ A( H& e4 X7 s2017 年兴起的色情 Deepfake 有续集了。
& g2 ?7 Y9 b% r! }- H' G
6 v2 p& o& g/ p8 L之前是换脸的「移花接木」，眼下是数行文字的「无中生有」。
, H. |; {: N& z! a4 O, N2 Q3 e
1 k1 C q) I: v0 BAI 作图发展到如今，已经有了很多分享 AI 模型的网站，你可以用来生成各种风格的图片，莫奈笔调风景画、韦斯·安德森配色产品图，当然也包括仿佛真人出镜的色情场景。3 G- Q/ e" D: @6 X. O/ Q
7 p B Y1 [* R/ Y/ d
「Create Anything（创造任何东西）」，这是其中一个网站（避免有宣传之嫌，名字就不透露了）打出的旗号。虽然啥都能干，不少用户更愿意在「十八禁」大展拳脚。- ~3 Q5 o- m" y) g
* t W" U/ u6 W& M
6 w5 x8 D- `4 M在文本框输入名人名字，加上「裸体」等提示词，就会得到一个模糊的图像。接下来是另外的价钱，每月 4 美元试水基础版，或者每月 15 美元尊享专业版。
% \! M0 g" F$ F( h- ?
7 ?) u' g4 v7 ^6 {6 F( T 付费解锁界面，NSFW 意为「工作场所不宜」，一般指色情、暴力等内容. 6 e1 h9 a3 N x& c! y* k$ D
7 w: ]( E/ @, X4 ?: L不仅如此，生成图片之后，提示词公开可见，让类似喜好的其他用户沿用或者迭代都很方便。
6 i+ \9 T, L, U6 Q' V; l1 h
* J% s0 N4 A4 n$ R3 A, C2 R& \另外，这个网站在聊天软件 Discord 有 3000 多名成员和数十个聊天室，他们讨论的都是怎么精进提示词技巧，从而更符合自己对某个部位和姿势的想象。
4 @" T8 b# i) z/ U( [9 E* r* `! { A
好莱坞女星的 AI 模型，已经下载 1300 次.
; p" Z! Y! k, t. |4 G6 c
& a- A$ W" u) m! x& ] F) c网站的创始人在接受采访时说，NSFW 只占平台内容的一小部分，每月有 100 万个活跃的创作者产出独特的作品。
: D0 C8 \- }% ?) g: R3 K" F/ H+ F+ n( Q3 y9 }# {
在另一个类似的网站，用户可以上传、共享和发现自定义模型，同样是什么风格都有，动漫风、游戏风、胶片复古风…… 但人性所致，带颜色的模型人气居高不下，最热门的几个已经被下载六七万次。
0 o) {/ h3 b1 s8 r0 `+ [7 _) o! D8 `8 z' ~; f1 p
一个「擦边球」模型.
2 @& |& ]( P! L) J2 V# @5 N! Y$ h4 D) L" H9 I$ z$ W- m8 ?/ a
色情固然是互联网的一部分，然而问题在于，训练这些模型的真实人物图片，是在互联网擅自抓取的，并没有经过本人的同意。) c. O* @5 Y: w8 n7 L8 j( a" T
& K% T* L- d; A5 T' K+ @3 c q
有些图片也不是完全露骨，而是让名人穿着内衣，或者某个部位看起来更大，但五十步笑百步的做法，仍然是不道德的。6 ~* L+ W2 Z5 S7 @* \2 a" }, P1 s
' x1 W3 X1 G( _ |; J
这时候就需要稍微解释下原理。很多个性化的 AI 模型，都是基于开源的 Stable Diffusion 微调，而 LoRA 又是一种主流的模型微调训练方法，因为它相对轻量化，用少量图片训练，便能生成特定的人物、物体或画风。
( T6 |1 e4 o1 d* e, E& o& @5 k& c
7 R4 Y0 B/ z8 |, o, o之前很火的赛博 COSER 用的也是 LoRA. 图片来自：@勘云工造
% ]- j5 { I: U/ F, E0 K, e
3 ]1 ~! N; |- K& w那么对于色图，谁成为了微调数据集呢？9 J6 y1 j w3 u; Y
+ t' d. b4 s7 t# `. m" h独立媒体公司 404 Media 调查发现，其中一个模型的训练数据，来自「美版贴吧」Reddit 的几个成人主题社区。3 J5 Q9 J' d0 S) u9 m
& s* E$ {9 m0 F
+ F5 m. x. e! m; `2 O/ J, c) [! z3 ?7 K7 t2 a C2 X( u
愿意上传图片，不代表愿意充当 AI 的口粮。一位负责管理社区的 Reddit 用户怀疑，大多数在 Reddit 发布裸照的人，可能并不知道照片正在被用来喂养 AI 模型。
/ ]/ O6 Y. C8 R0 c+ D
+ Z6 @. j; l: Q- r倒也不是发出裸照才有威胁。7 月初，德国电信发了一条关于儿童数据安全的广告，展现个人数据被拿去使用是多么容易，后果又是多么严重，呼吁家长尽量少在互联网分享儿童隐私。+ I3 O3 ?4 E6 q# c" q, K M% K! F
" U) V& ^) G' } R" S7 M
德国电信广告部分截图，儿童照片可能会被用于制造成人内容. * k/ f' R- x' s' u6 N, D
9 }8 b. r8 s1 S" t9 F" Q) k! A
这也意味着，威胁不仅在明星和网红头上盘旋，也可能击中在互联网路过的普通人，恐怕离人人都有一个 AI 模型的未来也不远了，只要你我在互联网上有过数字痕迹。
3 {4 r, ?- U9 t5 x% |7 C5 R1 m( } e
根据今年 7 月的互联网状况统计报告，近 50 亿人（48.8 亿）活跃在社交媒体上，占世界总人口的 60.6%。
3 B5 k; t, q# v6 z$ X" c) l: `
& a4 T* H: Y) R% K; \, x# @$ x6 x/ O) Z
或许有人会问，这不是 Deepfake 换脸时就有的毛病吗？是的，但伪造图片的脚步不会停下，已经存在的问题变本加厉。5 C u7 `5 G6 \" R" k' F& _
5 P3 Z' E3 c- b8 A5 J
从基于生成式对抗网络的 Deepfake，到模拟粒子热运动过程的扩散模型，训练数据集扩大了、算法框架迭代了、算力水平也提升了。更直观的是，普通人在 AI 上也有参与感了。5 E& G- ~) u) N U& O$ P
, R4 x$ Y6 u6 c3 Q$ i$ z- `
从前我们更偏向 AI 消费者，或是刷到真假难辨的汤姆·克鲁斯微微一哂，保持看热闹的旁观心态，或是换上好玩的滤镜跟进社交媒体潮流，交出去的基本是自己的个人信息。: g9 R0 O4 i E
2 D" A7 D$ B/ c) J/ l$ OTikTok 的「汤姆·克鲁斯」，本人看了也得犯迷糊. # }! }5 n# S/ p8 F2 L) d/ o
7 @% h2 Y; y: Y. x% D
现在我们都可以是 AI 生产者，登录 AI 模型网站，在文本框输入提示词，由云计算处理需求，几分钟就可以生成某位名人的定制 AI 作品，哪怕质量不好，用户规模和图片数量是空前的，每个月产出上百万张图片不在话下。
* v$ Y/ D: h4 l* V6 N* d. L# D L, ] ~& i6 ~( ]9 J
某 AI 模型网站的生成速度，最多需要 1 分钟. 7 }$ m$ G; n$ S1 p/ h$ Z7 h) L
% d2 m1 h: l, s5 W2 U! k9 s( q1 z
AI 成人内容的可怕之处还在于，既要从真人取材，也要回归「真实」。2 P8 h" [# @9 o G5 v
1 o5 G' C8 `3 g4 }: A
各网站最受欢迎的模型之一非常强调现实感，用户们还在 Reddit 讨论怎么给某个器官特写。行业里最优秀的创作者，甚至称自己的作品就像「1080P+ 视频的定格帧」。: n% N/ O& N. V
- c8 ?* [' y) \0 t' f可想而知，骚扰和勒索也可能会增加，技术的恶面往往最先向无法自保的人刀剑相向。0 Q4 P% A% p7 N& Y! c: A8 y- }
% u* F* q. i+ a- q5 d( ?8 m. t! G( v是兴趣，更是交易3 b/ k1 A+ H7 W) {
+ j3 A0 H5 u3 i7 w7 Y& I4 |! Y
和性搭上了边，那就不缺交易。买家是出于个人兴趣，卖家则是因为真金白银。除了上文提到的订阅模式，用 AI 色图赚钱的方式还有很多，虽然基本都是「打零工」。# w3 D# b" g+ v, G1 f
. D. F- S9 q* J- O1 ^% S% a
在 Patreon、Ko-fi 等具有打赏、赞助功能的平台，可以找到创作者的踪影。一位创作者在 Patreon 有 100 多名付费会员，巅峰时期每个月能赚到 1500 美元。. D( s1 d I' D7 v
8 q: a3 O1 G; \5 W
他还顺便加入了另外一个平台的「创作者计划」，每张图片入账 0.001 美元，虽然单价低，但好在他使唤 AI 的速度够快。
& }2 ^( M% k! W. T7 {+ C* H# r% W% ^" d6 w1 v
Patreon 的订阅界面. 9 E- H2 N) ~$ ^* n7 p
2 U- V2 z }3 X1 r8 y1 R任务众包平台 Fiverr 也值得一提，它是一个连接甲方乙方的中介，几乎可以购买和出售任何数字化「零活」，比如写作、翻译、设计，不少 AI 创作者明码标价，按照模型和图片数量阶梯收费。
: i$ k3 m! w& s1 A& s6 ?/ ~& @
" w& I5 e1 Q2 A5 }# l$ V2 [一位 Fiverr 创作者的接活界面.
6 f5 \' n& G; J; e
- X7 b' q5 b8 g9 R$ |, m5 O还有作风更加极客的创作者，直接在 AI 模型网站贴出比特币钱包地址。
. p5 V% |/ u* V- ]5 @; n! l8 g# p2 G& |1 g( q3 i1 d+ ?5 ?
别说个体创作者了，平台同样赚得盆满钵满。3 v2 p0 c0 d) i2 Z0 }
/ N& ~2 F8 V$ A2 |: t4 s6 O- E
有的 AI 模型网站自己也有打赏功能，同时提供每月 5 美元的会员福利，让用户可以抢先体验新功能，并在官网和 Discord 上的用户名后面戴上独特的徽章。" W& g. v4 V- J4 A
+ i0 k% H, ?7 O& U" zAI 模型网站的打赏功能. ' Z! a; x2 Q) V: a& n" ^; Q
e, N; \5 H$ C7 r) f
号称全世界第二大成人网站的 OnlyFans，不像 P 站收入主要来自广告并按视频点击量和创作者分成，创作者可以通过用户订阅和按次付费赚钱。
, R7 X/ X5 ]! y! ?2 C8 y! J! n$ z) \5 E4 |1 Q- e g
有观点认为，OnlyFans 改变了成人产业，因为创作者拿回了主导权，通过自己的作品直接获得收入。; e& `. V, L1 z, s: s) t
) J: A# E' r. ]( G/ |; B' q
然而现在，出图更快的「AI 师傅」也在复刻这套商业模式，「传统手艺人」的生财之路可能再次被打断。
$ \8 x6 R( v. z, g2 j6 e7 J m" S3 i( {( l! G
' p4 r1 k/ }# ]这一集我们在 Deepfake 视频大行其道的时候就看过。彭博社采访的一位 29 岁网红，是其中一位惴惴不安的受害者。
0 P* c: L; `. y- }* J/ D! q
# N3 j* G9 u$ r6 Y' Q! k8 E3 M4 U$ V2 O放在以前，如果想看她玩电子游戏，可以每月花 5 美元订阅 Twitch，如果想看她尺度更大的内容，可以每月花 15 美元订阅 OnlyFans。
- k, S2 A$ |+ X6 _
5 {. J" h6 \1 Y- e) V% F
; v' e+ K( P G6 p) }" @! B然而现在，粉丝可以花更少的钱或者免费观看她的 Deepfake 视频，只要带着她的大名搜索 Google。与此同时，心理创伤如影随形：
8 [8 S `0 [4 P0 j8 H
/ E8 A& L' \, g) L+ R) X$ V人们总是在发布新视频，在你不同意的情况下看到自己出现在色情片中，感觉很恶心。
" g, z, p" `6 h5 A8 h8 ]
# Q6 I# K4 i" `& e& c$ IAI 色图这把火，也迟早烧到真人头上。一位在 Reddit 发图的「女菩萨」很是悲观：
5 b& j1 h' A2 I+ h+ _
! |# ~- M7 v9 B5 z* S过去没有采取任何措施来保护我们，所以我不明白为什么现在会激励任何保护措施。
" R8 [ ?& \8 u# _: S- i/ Z- @7 D( `9 g/ X1 |
操作猛如虎，维权打地鼠* i; B% F: |, I, n' F/ P5 U
! }) T4 x+ G) K
作恶成本低、维权成本高，是 2017 年「黄色」Deepfake 兴起之时就有的毛病了，现在它只会变得更加严重。
- C9 ]: D3 O6 Z/ P- ?
5 Y. s9 q2 n: l- W1 w; y- [撤下未经本人同意的 AI 色图，往往是靠受害者自行发现，或者平台事后补救。
8 T5 z7 t) f$ M% a& u' f( j* N ]" C# u+ K6 [
; ~/ P0 g v- `' j V% _( {' R* G
按照 Google 的服务条款，如果证据充分，用户可以请求 Google 删除某条具体的链接。然而「野火烧不尽」，这就像一个没有终点的打地鼠游戏。
- T+ o6 A- O! E# K. C' g U5 p1 i5 p, o3 M9 a
不过，Google 也在改进排名系统，减少此类内容的出现。
8 v1 ?1 }/ I2 y3 T: `, w
1 w% A2 `7 ]5 `2 ^" lGoogle 的服务条款.
f, B2 [- r6 o0 V1 z8 U- V7 U; H( G- C& i. C; B
提供 AI 模型的平台们也并非没有意识到，技术存在被滥用的可能，但前所未有的内容规模，已经不允许平台只是沿用以前的审核策略。7 o7 ?0 v! `- d @
8 }, L8 U4 Y' B& P/ H3 T; W- W404 Media 记者发现，某 AI 模型网站的服务条款允许色情内容，也允许真人内容，但不允许两者兼而有之的真人色情内容，尤其涉及到未成年时。 x1 P; t8 K; J2 m% b. `% }" _# X
8 ^4 G" ?" ]7 _3 X% O q9 Q: e: G
然而，此类内容仍然不断发布，部分被平台删除，部分已经「幸存」了几个月。
* X0 C. w/ X7 m' p6 h6 c5 M$ x0 D: t; l6 ^$ e* n7 B5 d$ E8 F# M& z
某 AI 模型网站的服务条款.
7 S- F+ E( P( P% o! w N; B1 o& e t6 d( g! b, O
只能说，意识到位了，但方法没有。对技术的规范，总是相对技术落后半步。7 g; H6 f- j+ f X: D. n/ V
) f) @. I; y- [# Z3 U类似地，生成真人色情图像，违反了 Discord 的社区规则，但管理起来并不容易，靠的主要是用户自觉。
8 n2 [. @' M; @7 u$ i; \) h) l& B" p/ j' _9 L
Discord 的信任与安全团队，负责检查用户、版主或记者的报告，如果有人确实违反了社区准则，那就发出警告、删除内容、关停账号等，存在一定的被动性。
0 @ E, @& _" X7 D: ?8 s
) g$ V4 D( h, \ hDiscord 的社区准则，上为原文下为翻译. ) A: p3 E: u _2 G1 L+ Z3 O
- J2 c' m) Z- k/ N o9 H
讽刺的是，把 AI 色图分享到 Discord，也会被 AI 模型网站的用户内部批评，不是问心有愧，而是因为这坏了规矩，有可能让社区被禁：「你可以在网站上创建它，但不能在这里分享。」
: Q; i# d- \ T& R
8 r' C4 z/ O3 f# ]& l! @4 U甚至法律也不一定派上用场，就像 Deepfake 存在这么久了，美国只有几个州在为它立法，但因为杂乱无章，很难真正执行，并且有些创作者想尽办法隐藏身份，既然找不到人维权，很多时候受害者只能吃下哑巴亏。2 M6 d- _( d9 j' C( ?
" O3 u, M3 e$ U& \3 C好在几个更加主流的文生图工具，用技术为技术事先附加了制约。
* r( ]( {% K+ r; Z0 d2 Y/ ]4 j: z- Q$ m( W
' V( g4 C C4 H: d3 ~- pOpenAI 旗下的 Dall-E，尽可能减少了训练数据中的裸体图像，并且在实际使用过程中，阻止某些提示词的输入，以及在图片显示给用户之前扫描输出结果。
* R+ c1 E/ S4 R
2 k0 a6 `4 ~( Q y, d9 DMidjourney 也有屏蔽词和人工审核，还计划推出更先进的、能够关联上下文的过滤功能。
) E0 h& I" [1 |& }
8 D$ Q+ F9 T+ X" h6 y. [Stable Diffusion 背后的公司 Stability AI 也曾回应过类似的问题，「对任何开源代码所做的事情都是无法控制的」。* E4 @, \. g8 }0 ?! H' X+ [) {; g
) A& @7 R9 h3 f8 ?/ d8 w尽管如此，Stability AI 认为，识别此类行为并将其定为犯罪，还有很多事情可以做，开发者社区和互联网基础设施提供商也应该参与进来。3 R0 G4 L6 c2 o, y& g/ B
0 D7 `$ P0 ^ B1 a! b8 U& J; ^" H2 E9 J
简言之，对技术的规范就像钝刀子割肉，不能立刻起效，而 AI 色图的问题远比以前严重，靠的是一条运行顺畅的「生产链」：+ n" n5 u% F% u, P5 m( J! F
! g# n( X4 T& b2 O$ e4 \提供训练图像的内容社区； @! k4 y+ e6 `
+ j7 _& V: z3 ?" Q6 z
生成色图的开源技术；
; \0 @, [1 f1 Z7 {% Z. ^8 e
! B0 [' Z3 `- w. j' t2 V* E5 c将 AI 模型和图片商业化的平台；+ R5 T% j8 S! \( t5 |3 E
9 n6 }9 a; s- E- L# X自从 Deepfake 问世，我们就遇到了同样的问题。人性难测，技术的普及和滥用只有一步之遥，工具更加容易上手了，商业模式也走通了，那么创建和分发色图的动力就更大了。( z* _) f/ X! L8 i9 d6 n
% W& ]5 i5 K& [( i$ m4 B$ B# n4 ~2 f. n* B) X- T* F3 c
很多时候，互联网的成人行业已经被「非人化」地看待，当真正非人的 AI 取而代之，继续满足刻板印象，可能导致物化更上一层楼，而不是停止物化。
! O0 Q* n: P l, w: t: A% C' ]+ |6 P3 `5 w
就像《攻壳机动队》提出的问题那样，真实和虚假不再沟壑分明。完全像你的人做出了你从来不会做的事，但你很难证明那不是你，数据就是你，存在过的痕迹就是你。
3 f: p7 ]/ X6 O+ q+ g* k1 ` |" a" H, k
每当 AI 被最先应用到色情产业，总有人说，这会加速技术普及，或者不再需要真人。有人用金钱兑换欲望，有人不经意被投入技术熔炉，却没有谁会为伤害买单。8 g! v; e2 A) W) s0 P
' Y F) }" f/ E* E
来源：爱范儿 张成晨- t$ p* ~" e+ g# ? O A; C& O' o
|
发表于 2023-9-8 09:58
发表于 2023-9-8 12:19