上世纪末的作品《攻壳机动队》中，全身义体化的素子，怀疑自己是否仍然存在。身体、记忆和其他人的关系，当这些事物都能够被复制，也就无法成为肉身生命的论据。+ z6 T- q. \& y% c v
6 W( G+ \: T; b
& ~) ?6 l. L/ C7 Y/ F I% E
AI 歌手爆火之时，孙燕姿也在回应里提出类似的观点，你并不特别，你已经是可预测的，而且不幸你也是可定制的。
# R7 G- w8 ^: s% _5 D% v! c
! @; D0 y+ W6 H) g我们可以加上一句，任何人都是可以被 AI 描述和生成的，哪怕你从未做过某些事情。
- y) v) f6 Y" a% h8 n" \+ \/ ~4 ]7 _6 U+ U4 a' K% @4 ~
鲁迅真的说过，一见短袖子，立刻想到白臂膊。人类的想象力是共通的，毫不意外，每当技术有新进展，某个垂直赛道会被开发得越发成熟：搞黄色。
+ m- t( i5 C: l- Z( g/ d8 e' x8 a9 q+ \9 n: Y$ @4 t% u7 f1 P
从明星网红，到每个普通人
3 V8 R- n0 W% ~1 r& @) y( w
7 C- Y+ J6 n2 J" a2 q7 G( G% p! h2017 年兴起的色情 Deepfake 有续集了。) o; N/ B' a! G7 {+ ^ y
$ A+ ]' M; n) A/ R; _$ E
之前是换脸的「移花接木」，眼下是数行文字的「无中生有」。9 J' J, t2 v) r
+ z* J) B: y, N- U
AI 作图发展到如今，已经有了很多分享 AI 模型的网站，你可以用来生成各种风格的图片，莫奈笔调风景画、韦斯·安德森配色产品图，当然也包括仿佛真人出镜的色情场景。
6 |* [% ?1 N- o) \3 ~
4 d: L- _! m% d9 E$ R7 V「Create Anything（创造任何东西）」，这是其中一个网站（避免有宣传之嫌，名字就不透露了）打出的旗号。虽然啥都能干，不少用户更愿意在「十八禁」大展拳脚。/ Z, O- D* O$ i$ O
4 i; N+ q& I, n- ]* T
, D/ c7 f4 h* O: N; G# W
在文本框输入名人名字，加上「裸体」等提示词，就会得到一个模糊的图像。接下来是另外的价钱，每月 4 美元试水基础版，或者每月 15 美元尊享专业版。4 ~, j& u0 ?/ u& l& ?7 x3 t6 d
8 ^* \! L" x! I/ v. m, W7 a) c
付费解锁界面，NSFW 意为「工作场所不宜」，一般指色情、暴力等内容. 5 T( {' l/ G5 c7 |! K; i: H$ _
, u0 t! R0 c8 [ ^/ h
不仅如此，生成图片之后，提示词公开可见，让类似喜好的其他用户沿用或者迭代都很方便。# k0 Y# ~; b& k: F4 H, n
0 L% m* |7 \8 y2 S9 k
另外，这个网站在聊天软件 Discord 有 3000 多名成员和数十个聊天室，他们讨论的都是怎么精进提示词技巧，从而更符合自己对某个部位和姿势的想象。
6 s9 Y) A# S/ C6 _, L' \, B `+ W1 i. J, \0 Z
好莱坞女星的 AI 模型，已经下载 1300 次.
! q4 L" F5 b+ ]/ z8 G; k `
5 z% N4 L) ]) v网站的创始人在接受采访时说，NSFW 只占平台内容的一小部分，每月有 100 万个活跃的创作者产出独特的作品。3 j6 J" P1 o* z8 l O- n, l( S
0 j6 [9 ~8 ~' k在另一个类似的网站，用户可以上传、共享和发现自定义模型，同样是什么风格都有，动漫风、游戏风、胶片复古风…… 但人性所致，带颜色的模型人气居高不下，最热门的几个已经被下载六七万次。; P4 z; Y3 x S8 H
/ t/ v+ X$ }6 W! K7 [9 H 一个「擦边球」模型. : R H$ Q2 Z/ b" d* i% e9 r- r
; v @# b; N" S色情固然是互联网的一部分，然而问题在于，训练这些模型的真实人物图片，是在互联网擅自抓取的，并没有经过本人的同意。/ V3 @& U- B: D2 `- d
0 d- H0 n3 B! D9 `. j: C0 r有些图片也不是完全露骨，而是让名人穿着内衣，或者某个部位看起来更大，但五十步笑百步的做法，仍然是不道德的。2 Q- u4 \1 d8 [9 b8 |& O
, V$ d! K- v# v2 x. \ n这时候就需要稍微解释下原理。很多个性化的 AI 模型，都是基于开源的 Stable Diffusion 微调，而 LoRA 又是一种主流的模型微调训练方法，因为它相对轻量化，用少量图片训练，便能生成特定的人物、物体或画风。 Z/ b$ R4 Y: {; e& q
' D' {; e$ K4 P之前很火的赛博 COSER 用的也是 LoRA. 图片来自：@勘云工造 ( Z6 f) w& ?' s
: ^1 [9 x9 S3 Q8 w9 W8 @那么对于色图，谁成为了微调数据集呢？
; n/ P( f0 z1 J! n* w, D! q# h* F- s" k8 `" m
独立媒体公司 404 Media 调查发现，其中一个模型的训练数据，来自「美版贴吧」Reddit 的几个成人主题社区。" c% z) i0 Q9 t. I8 h+ ]# g4 P2 G
$ f% ^& V9 ~/ g2 m$ h0 h; s. {. Y9 B7 F
, m ^+ I/ P$ G" m4 c
愿意上传图片，不代表愿意充当 AI 的口粮。一位负责管理社区的 Reddit 用户怀疑，大多数在 Reddit 发布裸照的人，可能并不知道照片正在被用来喂养 AI 模型。" L0 N- n$ u# i# c6 |4 D3 c8 \
7 N+ E- N" G: c/ J
倒也不是发出裸照才有威胁。7 月初，德国电信发了一条关于儿童数据安全的广告，展现个人数据被拿去使用是多么容易，后果又是多么严重，呼吁家长尽量少在互联网分享儿童隐私。2 x5 A9 v* s( d7 v0 @ K% k
0 y7 h1 |9 P5 @. @4 ~9 G德国电信广告部分截图，儿童照片可能会被用于制造成人内容. 8 G$ e7 g' [' f. {7 n* r
" `: {5 t* x; _ M- ]& s这也意味着，威胁不仅在明星和网红头上盘旋，也可能击中在互联网路过的普通人，恐怕离人人都有一个 AI 模型的未来也不远了，只要你我在互联网上有过数字痕迹。
( W0 ]4 `# _, ]% A r
% y$ i" Z2 N" a6 T根据今年 7 月的互联网状况统计报告，近 50 亿人（48.8 亿）活跃在社交媒体上，占世界总人口的 60.6%。8 E/ Q8 J/ D2 F( ^* P
4 F$ V4 |) Z; o0 U4 _
1 i& \7 L8 s1 j! W
或许有人会问，这不是 Deepfake 换脸时就有的毛病吗？是的，但伪造图片的脚步不会停下，已经存在的问题变本加厉。
7 Q/ B1 h$ I3 F C# c" i- }
7 p' l8 h# C9 L9 W从基于生成式对抗网络的 Deepfake，到模拟粒子热运动过程的扩散模型，训练数据集扩大了、算法框架迭代了、算力水平也提升了。更直观的是，普通人在 AI 上也有参与感了。
. {/ Y, Z3 \8 t4 j! D: i% }3 Q8 v
; l( h5 _) e, @: D从前我们更偏向 AI 消费者，或是刷到真假难辨的汤姆·克鲁斯微微一哂，保持看热闹的旁观心态，或是换上好玩的滤镜跟进社交媒体潮流，交出去的基本是自己的个人信息。
& r, U! o9 h0 h* b0 ^% @0 a
9 J# ~ U- U- H" _TikTok 的「汤姆·克鲁斯」，本人看了也得犯迷糊.
8 p5 h; B& q+ |1 B$ A9 n* |8 q
% D8 {* K Q/ H9 h, T/ l现在我们都可以是 AI 生产者，登录 AI 模型网站，在文本框输入提示词，由云计算处理需求，几分钟就可以生成某位名人的定制 AI 作品，哪怕质量不好，用户规模和图片数量是空前的，每个月产出上百万张图片不在话下。5 w& _! x& Y! K% E
4 X0 N' R3 Y8 I, \8 Q2 }7 x某 AI 模型网站的生成速度，最多需要 1 分钟.
y5 \( X0 ^" ]( n
+ ]6 I( p1 K7 n/ w% w9 h$ eAI 成人内容的可怕之处还在于，既要从真人取材，也要回归「真实」。( y- H+ S. N& [3 B- J4 }% c5 J
3 l- x* g8 C" f. B; V& U) L各网站最受欢迎的模型之一非常强调现实感，用户们还在 Reddit 讨论怎么给某个器官特写。行业里最优秀的创作者，甚至称自己的作品就像「1080P+ 视频的定格帧」。
" W3 U8 d: _& X5 G$ @: I0 ^
. U; y; r- y3 S& s可想而知，骚扰和勒索也可能会增加，技术的恶面往往最先向无法自保的人刀剑相向。
% p7 {7 {+ [0 t: i/ i4 m: w" |) O/ g5 t
是兴趣，更是交易 S7 |8 R! L+ [0 a- t! h6 m3 y5 @
- [0 \1 E2 M. [( K5 X; [/ ~6 N7 y和性搭上了边，那就不缺交易。买家是出于个人兴趣，卖家则是因为真金白银。除了上文提到的订阅模式，用 AI 色图赚钱的方式还有很多，虽然基本都是「打零工」。
& d1 X/ _. ~0 I% Y: E5 z5 R3 r' O" j; C
9 N; S9 x& p) S5 o* V B7 ?. Y: c: |在 Patreon、Ko-fi 等具有打赏、赞助功能的平台，可以找到创作者的踪影。一位创作者在 Patreon 有 100 多名付费会员，巅峰时期每个月能赚到 1500 美元。( }" d' ` R6 b
9 f' S5 T5 \$ q5 s( D) j3 o: I他还顺便加入了另外一个平台的「创作者计划」，每张图片入账 0.001 美元，虽然单价低，但好在他使唤 AI 的速度够快。
! Z& ] Z- j1 z/ v
9 f5 G/ t: i* j1 a2 Y, G' cPatreon 的订阅界面. 8 z/ _( X0 L5 I' u6 n( G
2 B# t7 f( ]# d6 G
任务众包平台 Fiverr 也值得一提，它是一个连接甲方乙方的中介，几乎可以购买和出售任何数字化「零活」，比如写作、翻译、设计，不少 AI 创作者明码标价，按照模型和图片数量阶梯收费。
& z, S9 n3 S% r7 q3 N! z, t" }% U J
* ^2 p2 \" n& C一位 Fiverr 创作者的接活界面. & E8 |9 J! n. m) ^8 }/ D
% m$ ?$ f$ s' Z' Y4 {. X, Q还有作风更加极客的创作者，直接在 AI 模型网站贴出比特币钱包地址。
) a4 C) W/ f, x" E
/ D$ x0 {3 A# O/ m% i$ v别说个体创作者了，平台同样赚得盆满钵满。$ K6 C! i* A8 P+ m8 p5 {
) B) {+ Q. u9 b5 }有的 AI 模型网站自己也有打赏功能，同时提供每月 5 美元的会员福利，让用户可以抢先体验新功能，并在官网和 Discord 上的用户名后面戴上独特的徽章。
' T6 f) S% V) {5 m/ ~
( a: ^, Y; L1 u: B0 r' z; D; |AI 模型网站的打赏功能.
q, }9 z* p! {( f+ e$ l. W
2 }+ X4 n! T/ C号称全世界第二大成人网站的 OnlyFans，不像 P 站收入主要来自广告并按视频点击量和创作者分成，创作者可以通过用户订阅和按次付费赚钱。/ ]7 F8 ]9 L& ~4 v, \( E! D
: H7 `6 g4 A/ Y9 M+ g$ e有观点认为，OnlyFans 改变了成人产业，因为创作者拿回了主导权，通过自己的作品直接获得收入。+ r" V9 z8 U& c# J
* H% C9 C1 o( ~然而现在，出图更快的「AI 师傅」也在复刻这套商业模式，「传统手艺人」的生财之路可能再次被打断。. L+ _4 l) Q( o9 o5 @: f
, z( B$ Q9 @6 D. U3 d& f: V# O) g ?7 I" a8 q
这一集我们在 Deepfake 视频大行其道的时候就看过。彭博社采访的一位 29 岁网红，是其中一位惴惴不安的受害者。- E1 R' _# W& P9 ~. h
2 B, ~* ~% d, u8 S) C3 {放在以前，如果想看她玩电子游戏，可以每月花 5 美元订阅 Twitch，如果想看她尺度更大的内容，可以每月花 15 美元订阅 OnlyFans。
8 e9 B* `) S. Z. z0 W2 O% m) R$ z4 v. W, I. m
, @) `1 ~. ^4 u5 [$ p然而现在，粉丝可以花更少的钱或者免费观看她的 Deepfake 视频，只要带着她的大名搜索 Google。与此同时，心理创伤如影随形：
% ^7 l( ~8 W. X+ x' Y
. ?9 e# C" t7 p/ H. X人们总是在发布新视频，在你不同意的情况下看到自己出现在色情片中，感觉很恶心。
& Q/ P A7 x0 {. V) n# `3 T8 y6 v$ y9 p: N0 k0 Q
AI 色图这把火，也迟早烧到真人头上。一位在 Reddit 发图的「女菩萨」很是悲观：
; ?2 E8 j( n3 `3 v5 S# H' v4 @) `. f6 x( \+ g2 I) E
过去没有采取任何措施来保护我们，所以我不明白为什么现在会激励任何保护措施。1 B L' C* o; a( L& p+ z; P* Q
5 `' O$ M+ u' z! c, y0 h& Z
操作猛如虎，维权打地鼠. l+ d. Q0 ~2 Q. A; D2 v% @
( A6 ?& H7 a& [( d* t! g" N作恶成本低、维权成本高，是 2017 年「黄色」Deepfake 兴起之时就有的毛病了，现在它只会变得更加严重。! y* ?- C9 ^6 ^# \# d" C. b) e
1 r* ?/ _* Q2 {0 X$ x K撤下未经本人同意的 AI 色图，往往是靠受害者自行发现，或者平台事后补救。2 F- v Z8 U9 H- L: Z8 |
; N1 E0 E6 x6 Y+ l, z3 y# e# |
2 h, f1 v1 O/ C! h按照 Google 的服务条款，如果证据充分，用户可以请求 Google 删除某条具体的链接。然而「野火烧不尽」，这就像一个没有终点的打地鼠游戏。
7 j4 f8 m5 w ], [: O! f
* n0 i; s8 T) @9 o! g( M不过，Google 也在改进排名系统，减少此类内容的出现。8 ]3 S6 `, b. G4 B
8 f) ?$ {* I8 S/ h+ H) E1 ~
Google 的服务条款. 1 k, ]& W# a8 m' V- `" l
! H: Z# l( N( x8 ^
提供 AI 模型的平台们也并非没有意识到，技术存在被滥用的可能，但前所未有的内容规模，已经不允许平台只是沿用以前的审核策略。
3 I! Q. m6 k' h, F# E6 z# x0 b& N J8 o+ Z" q: g8 W# x5 C
404 Media 记者发现，某 AI 模型网站的服务条款允许色情内容，也允许真人内容，但不允许两者兼而有之的真人色情内容，尤其涉及到未成年时。% S* k7 b, s* T g5 Z
! G% `4 x/ ^3 w6 Q然而，此类内容仍然不断发布，部分被平台删除，部分已经「幸存」了几个月。
3 d& ~+ w* l! w: n7 r( W
1 ~: p( G9 x: I% V某 AI 模型网站的服务条款.
7 [% n5 E6 }' S5 `
3 ?& u0 H# A. n5 i! C只能说，意识到位了，但方法没有。对技术的规范，总是相对技术落后半步。6 b7 s) _7 x5 s- a1 F+ x
& d' I2 K9 V% Q9 u* z类似地，生成真人色情图像，违反了 Discord 的社区规则，但管理起来并不容易，靠的主要是用户自觉。& A9 x n3 X% _) B: D5 s
$ Y4 @; E/ e$ W( Y6 ^, D0 lDiscord 的信任与安全团队，负责检查用户、版主或记者的报告，如果有人确实违反了社区准则，那就发出警告、删除内容、关停账号等，存在一定的被动性。& _# p: M- R1 a5 i- N- r
" {: p w- x& s5 b# ADiscord 的社区准则，上为原文下为翻译. 0 p1 i; Y& ]/ }$ n2 M+ y: H
: k# C5 w* u ^; x- G讽刺的是，把 AI 色图分享到 Discord，也会被 AI 模型网站的用户内部批评，不是问心有愧，而是因为这坏了规矩，有可能让社区被禁：「你可以在网站上创建它，但不能在这里分享。」
5 q( V' M( @- y. n/ F
& U) H1 c C8 c: V/ V甚至法律也不一定派上用场，就像 Deepfake 存在这么久了，美国只有几个州在为它立法，但因为杂乱无章，很难真正执行，并且有些创作者想尽办法隐藏身份，既然找不到人维权，很多时候受害者只能吃下哑巴亏。( y. p6 R1 c. k5 `
" X1 T3 o' j6 @5 a; Y3 B
好在几个更加主流的文生图工具，用技术为技术事先附加了制约。5 r) ^% n% i; k- i
7 \8 E; c8 L% T! |$ `3 M4 l
. d* A7 e, Q$ @OpenAI 旗下的 Dall-E，尽可能减少了训练数据中的裸体图像，并且在实际使用过程中，阻止某些提示词的输入，以及在图片显示给用户之前扫描输出结果。, O: ] M- U0 w
0 G- }9 s% i; U C h: GMidjourney 也有屏蔽词和人工审核，还计划推出更先进的、能够关联上下文的过滤功能。
2 x; x( {8 G* `: v: j( I4 F* M( h6 [9 H- W, W R' T# J' L5 N/ Y
Stable Diffusion 背后的公司 Stability AI 也曾回应过类似的问题，「对任何开源代码所做的事情都是无法控制的」。
3 b6 C/ h7 K1 s
2 K) B/ c4 K" [$ q" f4 P; U2 s尽管如此，Stability AI 认为，识别此类行为并将其定为犯罪，还有很多事情可以做，开发者社区和互联网基础设施提供商也应该参与进来。$ L0 P7 O! C/ a
- q7 [0 f4 G2 u) ?2 E
X3 X0 U3 \9 i3 W% p; a简言之，对技术的规范就像钝刀子割肉，不能立刻起效，而 AI 色图的问题远比以前严重，靠的是一条运行顺畅的「生产链」：
: f6 T+ Y' B3 |% z' r: c
+ [- N# f- v; J8 ~5 w$ R提供训练图像的内容社区；
8 N O2 r# y" l+ c2 Z1 X
% Y% [. O, A. F2 D8 l7 O. U9 ?生成色图的开源技术；
* Y0 X/ R& c3 P6 l! X2 I- `$ r/ e9 h% ^" X; D. ], U
将 AI 模型和图片商业化的平台；
! p, B `8 L- j }% K' F$ a8 E+ b
/ B+ I8 R9 E& R. ~+ h自从 Deepfake 问世，我们就遇到了同样的问题。人性难测，技术的普及和滥用只有一步之遥，工具更加容易上手了，商业模式也走通了，那么创建和分发色图的动力就更大了。$ r3 _* ^; g& X
" ]2 W0 K; ?' l: S9 Q
% C+ k. W' P/ h* b7 b( |5 t很多时候，互联网的成人行业已经被「非人化」地看待，当真正非人的 AI 取而代之，继续满足刻板印象，可能导致物化更上一层楼，而不是停止物化。
# e3 }4 t5 ?( @( j/ T' C6 e4 Q1 F6 @# i
就像《攻壳机动队》提出的问题那样，真实和虚假不再沟壑分明。完全像你的人做出了你从来不会做的事，但你很难证明那不是你，数据就是你，存在过的痕迹就是你。
! y: I' L S$ ]" d: \
8 L+ G' u$ n c每当 AI 被最先应用到色情产业，总有人说，这会加速技术普及，或者不再需要真人。有人用金钱兑换欲望，有人不经意被投入技术熔炉，却没有谁会为伤害买单。1 v! k& N% a# i( N4 v }! d A6 x
+ Y! c0 t, Z& F7 `2 [- z" d来源：爱范儿 张成晨
9 @9 O' P) o& f# @5 d3 J |
发表于 2023-9-8 09:58
发表于 2023-9-8 12:19