|
上世纪末的作品《攻壳机动队》中，全身义体化的素子，怀疑自己是否仍然存在。身体、记忆和其他人的关系，当这些事物都能够被复制，也就无法成为肉身生命的论据。
% a4 ], [9 U! A1 Y2 A
4 I% B; X2 U! @/ N% D) b t; a1 K& ^+ @( s1 F; P5 x
AI 歌手爆火之时，孙燕姿也在回应里提出类似的观点，你并不特别，你已经是可预测的，而且不幸你也是可定制的。3 G4 ]1 }. U7 O$ L, L
0 }% t; K; f0 ~% G我们可以加上一句，任何人都是可以被 AI 描述和生成的，哪怕你从未做过某些事情。" _' k# M7 M/ f7 `: `! C
) O% v; u, q' n# I: v
鲁迅真的说过，一见短袖子，立刻想到白臂膊。人类的想象力是共通的，毫不意外，每当技术有新进展，某个垂直赛道会被开发得越发成熟：搞黄色。& |- }2 Y; J; V" S1 n
0 U3 k: b- H# Y" v7 F4 j从明星网红，到每个普通人
, E/ p' t" w$ g( R: C
- p3 ^1 k" @# V7 T2017 年兴起的色情 Deepfake 有续集了。* R: v( S& L# A) H7 y
9 H" B% h: O" U* `( a$ Y0 B. y* S之前是换脸的「移花接木」，眼下是数行文字的「无中生有」。+ @: y" v& K* X! D" ~- ^6 W- `$ C
3 I8 ^. r, j6 U: d
AI 作图发展到如今，已经有了很多分享 AI 模型的网站，你可以用来生成各种风格的图片，莫奈笔调风景画、韦斯·安德森配色产品图，当然也包括仿佛真人出镜的色情场景。
2 s+ S3 g5 [* W" }) F7 n! t" f0 X" y3 ~' T) Q5 I5 j
「Create Anything（创造任何东西）」，这是其中一个网站（避免有宣传之嫌，名字就不透露了）打出的旗号。虽然啥都能干，不少用户更愿意在「十八禁」大展拳脚。; R( B) `7 g- J+ z
! C8 v ~- |: d' x& O8 Q' O& o- M8 }- n
在文本框输入名人名字，加上「裸体」等提示词，就会得到一个模糊的图像。接下来是另外的价钱，每月 4 美元试水基础版，或者每月 15 美元尊享专业版。& I& B, K6 t' r# p; b( c4 i6 i1 x
4 `! @2 q* |* m5 _, N0 x4 v
付费解锁界面，NSFW 意为「工作场所不宜」，一般指色情、暴力等内容.
( p9 Y; R# o9 W6 u2 f5 G& m; D$ @3 v. [
不仅如此，生成图片之后，提示词公开可见，让类似喜好的其他用户沿用或者迭代都很方便。# W9 a$ L, L0 ~
1 V d' E1 [9 q6 E) c0 Y另外，这个网站在聊天软件 Discord 有 3000 多名成员和数十个聊天室，他们讨论的都是怎么精进提示词技巧，从而更符合自己对某个部位和姿势的想象。% G% i1 j, [5 \- E4 J( o
: n/ ^3 ]) J9 h
好莱坞女星的 AI 模型，已经下载 1300 次.
( A% X N% G: ]: G* `- N
* V9 a1 \0 X* P8 ~% N网站的创始人在接受采访时说，NSFW 只占平台内容的一小部分，每月有 100 万个活跃的创作者产出独特的作品。! ?) J T) w. M0 [. R
8 j4 v8 I, g/ y. m" B
在另一个类似的网站，用户可以上传、共享和发现自定义模型，同样是什么风格都有，动漫风、游戏风、胶片复古风…… 但人性所致，带颜色的模型人气居高不下，最热门的几个已经被下载六七万次。: c) e O. l% C
0 ^ I! j" V9 D, e( j) N: W7 \ 一个「擦边球」模型. 9 z. x/ {7 _! S" Q. G, a
. ~! l8 {7 y9 |5 b. l
色情固然是互联网的一部分，然而问题在于，训练这些模型的真实人物图片，是在互联网擅自抓取的，并没有经过本人的同意。) @6 \4 f* R! I( U a: k7 z* y
1 n; N: H9 `; c
有些图片也不是完全露骨，而是让名人穿着内衣，或者某个部位看起来更大，但五十步笑百步的做法，仍然是不道德的。; d* Y! a5 J$ ?- e$ Z8 m
" S4 F5 _2 A7 [/ j
这时候就需要稍微解释下原理。很多个性化的 AI 模型，都是基于开源的 Stable Diffusion 微调，而 LoRA 又是一种主流的模型微调训练方法，因为它相对轻量化，用少量图片训练，便能生成特定的人物、物体或画风。
6 `' g0 D1 b" X' f v. |( m+ o D" @7 g5 r* \4 r
之前很火的赛博 COSER 用的也是 LoRA. 图片来自：@勘云工造 : j" n& V3 E7 r& ^' \
' o) @% r: S/ ?. m; [
那么对于色图，谁成为了微调数据集呢？
$ T7 Y! D1 ~/ m+ `. Z) f8 S2 |3 C# P5 d
独立媒体公司 404 Media 调查发现，其中一个模型的训练数据，来自「美版贴吧」Reddit 的几个成人主题社区。
- T! X+ R5 ?, |. _! T* C: T1 V5 T# a7 @; g$ d8 o
$ W2 @& \& V8 S* g/ q! \8 o, \
/ Y1 {3 D A* C2 Z
愿意上传图片，不代表愿意充当 AI 的口粮。一位负责管理社区的 Reddit 用户怀疑，大多数在 Reddit 发布裸照的人，可能并不知道照片正在被用来喂养 AI 模型。
9 {$ t: T" v0 D( a9 L9 Q. o2 L' k* s7 [" P: M5 s
倒也不是发出裸照才有威胁。7 月初，德国电信发了一条关于儿童数据安全的广告，展现个人数据被拿去使用是多么容易，后果又是多么严重，呼吁家长尽量少在互联网分享儿童隐私。1 u% h: h% w2 x$ ]" G7 `
0 g A( N5 Z+ ^$ F' [+ m* c% F
德国电信广告部分截图，儿童照片可能会被用于制造成人内容.
2 T0 ?9 o( @; }9 |6 O7 h& E; x8 {& U7 n" M
这也意味着，威胁不仅在明星和网红头上盘旋，也可能击中在互联网路过的普通人，恐怕离人人都有一个 AI 模型的未来也不远了，只要你我在互联网上有过数字痕迹。/ |! k4 j8 y7 Q7 h8 S$ v
9 K6 _+ u+ e$ D& C% K/ Z0 {% U根据今年 7 月的互联网状况统计报告，近 50 亿人（48.8 亿）活跃在社交媒体上，占世界总人口的 60.6%。8 J _- i! s! r" M, n% I% p$ r% Q
% K1 [2 B$ W7 P2 {1 n- y. m6 l9 \ F% i8 @
或许有人会问，这不是 Deepfake 换脸时就有的毛病吗？是的，但伪造图片的脚步不会停下，已经存在的问题变本加厉。- H0 [0 c9 k5 X# ~( w8 @
% [+ g3 `# z% h B8 c' }: ]4 H从基于生成式对抗网络的 Deepfake，到模拟粒子热运动过程的扩散模型，训练数据集扩大了、算法框架迭代了、算力水平也提升了。更直观的是，普通人在 AI 上也有参与感了。
; f2 {, Y9 {7 }9 s; d1 k: D A6 ?5 w, Z% Y2 g
从前我们更偏向 AI 消费者，或是刷到真假难辨的汤姆·克鲁斯微微一哂，保持看热闹的旁观心态，或是换上好玩的滤镜跟进社交媒体潮流，交出去的基本是自己的个人信息。
. r% s: a2 T' a$ o u
( Z+ N9 k2 {8 w1 x9 n0 nTikTok 的「汤姆·克鲁斯」，本人看了也得犯迷糊.
9 v$ ` T" m: Q6 W
1 j/ |# l( E! Y( X5 U- a现在我们都可以是 AI 生产者，登录 AI 模型网站，在文本框输入提示词，由云计算处理需求，几分钟就可以生成某位名人的定制 AI 作品，哪怕质量不好，用户规模和图片数量是空前的，每个月产出上百万张图片不在话下。0 [, y) P7 i. {" G" ?) Z9 t7 ?
3 j, h& b' x' s2 U8 }& n" L+ [
某 AI 模型网站的生成速度，最多需要 1 分钟.
6 }. q) ]! M+ l5 \' a; F5 Y3 X2 n4 w( [: B5 O) h
AI 成人内容的可怕之处还在于，既要从真人取材，也要回归「真实」。
; m* ^! x- v# V/ T- J3 C5 {) E# x8 |8 v
各网站最受欢迎的模型之一非常强调现实感，用户们还在 Reddit 讨论怎么给某个器官特写。行业里最优秀的创作者，甚至称自己的作品就像「1080P+ 视频的定格帧」。+ d, @0 h- {5 r) \7 p5 Y4 a$ R
0 B' d. G. _, r2 b4 b) Z
可想而知，骚扰和勒索也可能会增加，技术的恶面往往最先向无法自保的人刀剑相向。
" v% | Y3 s/ M" a
( L; E5 x1 j% e; `5 ?是兴趣，更是交易8 q6 m2 H, A; g
2 B# @1 p3 @0 f1 Q' h/ v
和性搭上了边，那就不缺交易。买家是出于个人兴趣，卖家则是因为真金白银。除了上文提到的订阅模式，用 AI 色图赚钱的方式还有很多，虽然基本都是「打零工」。
0 x( L% ~3 Z( v
g2 j% ?5 T6 i9 J& K8 _" X在 Patreon、Ko-fi 等具有打赏、赞助功能的平台，可以找到创作者的踪影。一位创作者在 Patreon 有 100 多名付费会员，巅峰时期每个月能赚到 1500 美元。
8 m( |% _9 o: Z3 s! ]$ k8 C; X% z( x1 v) s4 L
他还顺便加入了另外一个平台的「创作者计划」，每张图片入账 0.001 美元，虽然单价低，但好在他使唤 AI 的速度够快。
B- t" i8 B: h. E; k* a6 v. Q* H) c- e. P+ L
Patreon 的订阅界面.
0 L2 j5 o1 R/ ~- g6 q7 \- T. `3 R" n8 B
任务众包平台 Fiverr 也值得一提，它是一个连接甲方乙方的中介，几乎可以购买和出售任何数字化「零活」，比如写作、翻译、设计，不少 AI 创作者明码标价，按照模型和图片数量阶梯收费。/ `; S# z0 v1 u) |. T
7 M' @$ q; P6 A1 I% l9 U3 F
一位 Fiverr 创作者的接活界面.
5 H7 W. O! {: T7 V* H
x7 B! z* P$ V7 L还有作风更加极客的创作者，直接在 AI 模型网站贴出比特币钱包地址。0 W, p/ w* k! {6 q
! z- s" U) o2 Q2 p; i0 t
别说个体创作者了，平台同样赚得盆满钵满。
4 O; n* ?1 C; \4 s$ r4 Z7 Z) P" q7 h+ Z- \, h+ l
有的 AI 模型网站自己也有打赏功能，同时提供每月 5 美元的会员福利，让用户可以抢先体验新功能，并在官网和 Discord 上的用户名后面戴上独特的徽章。
* \4 a. r$ \; R4 B0 ~/ [
" M3 E# r+ j+ VAI 模型网站的打赏功能. ( x3 g: _4 ~5 L+ B+ t8 x/ f: \
/ \$ c8 f- |' ?: B2 W! f号称全世界第二大成人网站的 OnlyFans，不像 P 站收入主要来自广告并按视频点击量和创作者分成，创作者可以通过用户订阅和按次付费赚钱。
; ? a8 x( T7 C" r/ G% M9 M* F
- U( f) B, `: u# s! w有观点认为，OnlyFans 改变了成人产业，因为创作者拿回了主导权，通过自己的作品直接获得收入。7 J, @$ T) X b9 i% A
( m5 w; ^5 J& ~7 m: @! w7 t$ ^& \然而现在，出图更快的「AI 师傅」也在复刻这套商业模式，「传统手艺人」的生财之路可能再次被打断。4 [* b8 e: `% h+ o+ N, W8 w. ?
g7 ?( y8 |7 j R
* {5 y7 D$ P. P, i3 Z' ?
这一集我们在 Deepfake 视频大行其道的时候就看过。彭博社采访的一位 29 岁网红，是其中一位惴惴不安的受害者。0 S& }- D0 ~5 X
5 o3 ?4 L% z: g4 U6 {% Y" t放在以前，如果想看她玩电子游戏，可以每月花 5 美元订阅 Twitch，如果想看她尺度更大的内容，可以每月花 15 美元订阅 OnlyFans。
+ j/ g. f+ H1 S6 _# [$ u$ b1 R9 L+ O- ~- s
8 T* J) ?# q2 E
然而现在，粉丝可以花更少的钱或者免费观看她的 Deepfake 视频，只要带着她的大名搜索 Google。与此同时，心理创伤如影随形： @" b# F- u' S, o) P- M. m
3 b2 u/ `" m* `人们总是在发布新视频，在你不同意的情况下看到自己出现在色情片中，感觉很恶心。; }0 f) ]% H7 |8 L7 _5 U3 y1 u
( R( T% ]8 G2 i4 @" e) L; X- ~/ h
AI 色图这把火，也迟早烧到真人头上。一位在 Reddit 发图的「女菩萨」很是悲观：" l9 _& c8 Q" u) D: g# j K% _' M
9 f4 W, Z2 O) e. n) p1 W过去没有采取任何措施来保护我们，所以我不明白为什么现在会激励任何保护措施。# d' n9 D. X1 m, m I
1 C, i y& F" \
操作猛如虎，维权打地鼠
# [$ B- C$ T9 c) I( D: x! v$ E2 L! E2 r; P
作恶成本低、维权成本高，是 2017 年「黄色」Deepfake 兴起之时就有的毛病了，现在它只会变得更加严重。
9 P; p' R, e' r1 H+ x! d$ s1 g/ ^2 ` h
撤下未经本人同意的 AI 色图，往往是靠受害者自行发现，或者平台事后补救。4 E$ V" O2 e% T9 {0 a4 L
1 u8 y, k7 A w' X1 ?
9 O% W- l' F, @5 p% P; m$ {7 V/ m按照 Google 的服务条款，如果证据充分，用户可以请求 Google 删除某条具体的链接。然而「野火烧不尽」，这就像一个没有终点的打地鼠游戏。! p: w- \: s( Y3 x f1 L, _
* F. w2 D$ V- \6 w7 |" m9 Q J不过，Google 也在改进排名系统，减少此类内容的出现。3 ? B& @4 Q$ m/ i- Q0 l
( r4 | w. G& u3 }7 dGoogle 的服务条款. $ L; ]: O2 i* \& c7 [% G
9 }" k3 p, ?9 S1 f9 s+ X( E* S4 K# ~提供 AI 模型的平台们也并非没有意识到，技术存在被滥用的可能，但前所未有的内容规模，已经不允许平台只是沿用以前的审核策略。5 e0 V' D9 M( M0 B' H; L4 T5 H W
8 N1 _( J2 O/ c& W& N0 H% ]404 Media 记者发现，某 AI 模型网站的服务条款允许色情内容，也允许真人内容，但不允许两者兼而有之的真人色情内容，尤其涉及到未成年时。
) C: u- v. D3 o i+ ^% Z7 n
8 W+ i5 ?5 X1 a% w然而，此类内容仍然不断发布，部分被平台删除，部分已经「幸存」了几个月。
" N! s% p9 W2 b9 x7 E4 c8 X" j6 {7 ~( I8 ~: x+ j
某 AI 模型网站的服务条款. ; Y/ y4 m$ P# [" n8 p$ q9 F
X3 {5 l7 p) M只能说，意识到位了，但方法没有。对技术的规范，总是相对技术落后半步。& {+ ^/ R1 ~7 e [! j. Q: [! {
! y$ N8 u6 @" \: v, B# A4 _/ m
类似地，生成真人色情图像，违反了 Discord 的社区规则，但管理起来并不容易，靠的主要是用户自觉。
# M4 E+ ~% S8 q6 |, F' |% ^& Z6 h. B5 `( i+ z
Discord 的信任与安全团队，负责检查用户、版主或记者的报告，如果有人确实违反了社区准则，那就发出警告、删除内容、关停账号等，存在一定的被动性。
' W/ ^' g3 A) j3 m+ Y; U. n2 q; `, h2 K6 @+ m! p% X
Discord 的社区准则，上为原文下为翻译. $ e- b# q" x3 Y* a; U7 F+ O# c
1 v& w0 G4 g# _3 s$ _2 W
讽刺的是，把 AI 色图分享到 Discord，也会被 AI 模型网站的用户内部批评，不是问心有愧，而是因为这坏了规矩，有可能让社区被禁：「你可以在网站上创建它，但不能在这里分享。」
! g' Y* ^1 {( c7 y; v" x7 P ?' F9 z3 b0 M( w
甚至法律也不一定派上用场，就像 Deepfake 存在这么久了，美国只有几个州在为它立法，但因为杂乱无章，很难真正执行，并且有些创作者想尽办法隐藏身份，既然找不到人维权，很多时候受害者只能吃下哑巴亏。% {- L# s7 r; {+ i
. C# c/ K0 A7 A# ^好在几个更加主流的文生图工具，用技术为技术事先附加了制约。) h ?- P; g+ f
/ I# N& P! i% d
/ s0 ?$ i$ j. S$ @4 n: x0 G/ D1 YOpenAI 旗下的 Dall-E，尽可能减少了训练数据中的裸体图像，并且在实际使用过程中，阻止某些提示词的输入，以及在图片显示给用户之前扫描输出结果。' |- }, D4 l& N. v7 U
1 G! l m0 M. B
Midjourney 也有屏蔽词和人工审核，还计划推出更先进的、能够关联上下文的过滤功能。
# L. k5 _6 V, {, Y* E2 j! {& C4 U. P5 y! i/ Z9 U
Stable Diffusion 背后的公司 Stability AI 也曾回应过类似的问题，「对任何开源代码所做的事情都是无法控制的」。
7 Q6 f; s, v& a& \, y( e; D/ B0 e- @" J
尽管如此，Stability AI 认为，识别此类行为并将其定为犯罪，还有很多事情可以做，开发者社区和互联网基础设施提供商也应该参与进来。
D/ U( d) ]+ t+ J* | s- l, z+ L! N4 \
& x k( F$ G# N, H6 M0 \1 u7 d7 S简言之，对技术的规范就像钝刀子割肉，不能立刻起效，而 AI 色图的问题远比以前严重，靠的是一条运行顺畅的「生产链」：+ B6 f/ U1 K+ \5 n. P
" ?1 |) B2 A) K7 ?! W提供训练图像的内容社区；
/ F; j! B, c1 ~9 c4 A3 M
, j: N, o$ A7 @8 Z8 g生成色图的开源技术；2 M6 k# s. Q) i% d" s6 s( c
; d) k! {6 I6 C4 Q将 AI 模型和图片商业化的平台；
% [. X3 s C# W* u0 Z" _1 }" D; t: |; N, A: D' i
自从 Deepfake 问世，我们就遇到了同样的问题。人性难测，技术的普及和滥用只有一步之遥，工具更加容易上手了，商业模式也走通了，那么创建和分发色图的动力就更大了。1 R: T5 S) J O6 ?7 a& J, I
7 D* C* |! h7 H( H' ?' t! e% Q" f: J
- B9 k7 y) Y7 F$ @0 r- }很多时候，互联网的成人行业已经被「非人化」地看待，当真正非人的 AI 取而代之，继续满足刻板印象，可能导致物化更上一层楼，而不是停止物化。
( l8 {. T! J h( v
0 q7 a1 V' S: E+ V3 {% o就像《攻壳机动队》提出的问题那样，真实和虚假不再沟壑分明。完全像你的人做出了你从来不会做的事，但你很难证明那不是你，数据就是你，存在过的痕迹就是你。; `3 n6 w2 A4 U; c% H
4 N1 O9 T. S5 T8 B
每当 AI 被最先应用到色情产业，总有人说，这会加速技术普及，或者不再需要真人。有人用金钱兑换欲望，有人不经意被投入技术熔炉，却没有谁会为伤害买单。; B! K" S* g7 L! Y
/ p- r/ b5 t) y5 o, h& j来源：爱范儿 张成晨( b1 d* x/ ^$ |, E
|
发表于 2023-9-8 09:58
发表于 2023-9-8 12:19