|
上世纪末的作品《攻壳机动队》中，全身义体化的素子，怀疑自己是否仍然存在。身体、记忆和其他人的关系，当这些事物都能够被复制，也就无法成为肉身生命的论据。: d& T8 _ ^6 V E" A) p s
9 \0 {5 C b7 q7 [* D' T% U) x4 T; R/ Y- f) k# i
AI 歌手爆火之时，孙燕姿也在回应里提出类似的观点，你并不特别，你已经是可预测的，而且不幸你也是可定制的。
4 N& n4 i* F) D$ B5 y/ m5 d% _
" x* L$ w1 a' X7 z, F. o我们可以加上一句，任何人都是可以被 AI 描述和生成的，哪怕你从未做过某些事情。) Y/ ^% Z8 U9 \% ?: A4 y1 W
% D- ^) L u! K' d# X) ]
鲁迅真的说过，一见短袖子，立刻想到白臂膊。人类的想象力是共通的，毫不意外，每当技术有新进展，某个垂直赛道会被开发得越发成熟：搞黄色。
* ]4 I- x( f; Z0 e# i% }, k& m
$ f0 {- K, J* v; P6 {1 c. [从明星网红，到每个普通人, H7 H. x2 A- v& C* w+ M) T
5 z- m& O5 r& s/ p7 ^9 Q
2017 年兴起的色情 Deepfake 有续集了。" M' }7 E9 ~& o4 t) i
7 N3 Y1 t4 C0 L* ~6 }, x/ D
之前是换脸的「移花接木」，眼下是数行文字的「无中生有」。* h; N. V5 T4 t, |
2 I. f- h& a' B2 K; W$ @' w0 RAI 作图发展到如今，已经有了很多分享 AI 模型的网站，你可以用来生成各种风格的图片，莫奈笔调风景画、韦斯·安德森配色产品图，当然也包括仿佛真人出镜的色情场景。) D& D# B- y% B: L/ y: [! `
3 d8 o% K: r' _. o7 {% x; o
「Create Anything（创造任何东西）」，这是其中一个网站（避免有宣传之嫌，名字就不透露了）打出的旗号。虽然啥都能干，不少用户更愿意在「十八禁」大展拳脚。
- E h. E* `: d Y6 `* P, B: A( H- \* ]8 ~0 b d
- l+ l/ h; L& O在文本框输入名人名字，加上「裸体」等提示词，就会得到一个模糊的图像。接下来是另外的价钱，每月 4 美元试水基础版，或者每月 15 美元尊享专业版。9 A# T3 x3 l0 {* C$ O
7 @# h( L/ }5 x; {% m 付费解锁界面，NSFW 意为「工作场所不宜」，一般指色情、暴力等内容.
. R# X. m0 B2 x1 R. b$ { I+ H0 Y! _( y$ r+ V
不仅如此，生成图片之后，提示词公开可见，让类似喜好的其他用户沿用或者迭代都很方便。- N+ E& \# t, |0 _, ]8 i7 B; r* o( h4 X
' P" O, k9 [/ u- T另外，这个网站在聊天软件 Discord 有 3000 多名成员和数十个聊天室，他们讨论的都是怎么精进提示词技巧，从而更符合自己对某个部位和姿势的想象。1 X, H8 i% a* }6 C
0 x* a2 v5 J# g+ q5 E好莱坞女星的 AI 模型，已经下载 1300 次. / w& D6 ^) I0 h9 i5 |
& _2 y9 R1 \6 u- h+ w! z
网站的创始人在接受采访时说，NSFW 只占平台内容的一小部分，每月有 100 万个活跃的创作者产出独特的作品。' E6 Z& @: ]7 F% j! Y4 u
$ Z4 e' p+ e6 _9 r- [2 [! I在另一个类似的网站，用户可以上传、共享和发现自定义模型，同样是什么风格都有，动漫风、游戏风、胶片复古风…… 但人性所致，带颜色的模型人气居高不下，最热门的几个已经被下载六七万次。& [$ b( T: \( J0 n/ M
" `; l' z# ?1 D0 E' y
一个「擦边球」模型.
+ n5 i9 v$ U6 d6 s
3 y, }+ n- ]$ T5 Y色情固然是互联网的一部分，然而问题在于，训练这些模型的真实人物图片，是在互联网擅自抓取的，并没有经过本人的同意。 q0 Q3 g w2 [# F
% E" F# W( h. O% N |9 v% G
有些图片也不是完全露骨，而是让名人穿着内衣，或者某个部位看起来更大，但五十步笑百步的做法，仍然是不道德的。
- I6 n0 u6 Q; ^! Y; k& u8 ]/ E
n) o0 k* T5 L$ L- x这时候就需要稍微解释下原理。很多个性化的 AI 模型，都是基于开源的 Stable Diffusion 微调，而 LoRA 又是一种主流的模型微调训练方法，因为它相对轻量化，用少量图片训练，便能生成特定的人物、物体或画风。9 V7 @3 Y4 J$ u, w1 ~
8 G1 N* h y, U
之前很火的赛博 COSER 用的也是 LoRA. 图片来自：@勘云工造
0 N% d6 v8 G0 z9 m& `' @1 Z- [5 X1 {% `- k% t
那么对于色图，谁成为了微调数据集呢？
: |: ]1 r! B& g- T' Y8 ?
! P) r/ f2 }2 W/ @7 }, x独立媒体公司 404 Media 调查发现，其中一个模型的训练数据，来自「美版贴吧」Reddit 的几个成人主题社区。
5 |9 ]- B+ M8 s! r) ~6 u
/ r) s2 \1 Z0 c9 T3 n9 x' ~
; A) [" B" ]8 e
0 k& d- x/ ?& k" h愿意上传图片，不代表愿意充当 AI 的口粮。一位负责管理社区的 Reddit 用户怀疑，大多数在 Reddit 发布裸照的人，可能并不知道照片正在被用来喂养 AI 模型。
7 r# |; w0 h! e) o }! d4 k! D1 L1 ]
倒也不是发出裸照才有威胁。7 月初，德国电信发了一条关于儿童数据安全的广告，展现个人数据被拿去使用是多么容易，后果又是多么严重，呼吁家长尽量少在互联网分享儿童隐私。1 ~1 j$ ~' T0 W
* t5 q1 o5 \ z% \% Y! w德国电信广告部分截图，儿童照片可能会被用于制造成人内容.
' {, S( ^( k& ~, ^+ p& N0 S* m; w. W5 g
这也意味着，威胁不仅在明星和网红头上盘旋，也可能击中在互联网路过的普通人，恐怕离人人都有一个 AI 模型的未来也不远了，只要你我在互联网上有过数字痕迹。
: F- I$ {, a% B# Y6 f& S$ X2 r5 v, N4 q3 L5 m+ b8 B
根据今年 7 月的互联网状况统计报告，近 50 亿人（48.8 亿）活跃在社交媒体上，占世界总人口的 60.6%。
# J& w' h$ U: h( M9 D! W+ r) A/ f
3 U* N. ]9 s: x. {( U& t& r$ M; ?7 V
: d- i& r! F+ a" M5 V或许有人会问，这不是 Deepfake 换脸时就有的毛病吗？是的，但伪造图片的脚步不会停下，已经存在的问题变本加厉。' h4 H2 W# k2 K
& Q8 S: D0 B4 I# o0 |
从基于生成式对抗网络的 Deepfake，到模拟粒子热运动过程的扩散模型，训练数据集扩大了、算法框架迭代了、算力水平也提升了。更直观的是，普通人在 AI 上也有参与感了。* w0 {% ]/ n1 h& _/ Y: S
5 q5 x/ E* c, C; f2 f$ z/ b
从前我们更偏向 AI 消费者，或是刷到真假难辨的汤姆·克鲁斯微微一哂，保持看热闹的旁观心态，或是换上好玩的滤镜跟进社交媒体潮流，交出去的基本是自己的个人信息。! i2 F V }' m- ~7 |0 e& T
& x7 g h" I" f( S# b) BTikTok 的「汤姆·克鲁斯」，本人看了也得犯迷糊. ) {& C4 }" o/ u+ G
7 E2 y: R% ^; J+ h/ i5 h2 Y, n现在我们都可以是 AI 生产者，登录 AI 模型网站，在文本框输入提示词，由云计算处理需求，几分钟就可以生成某位名人的定制 AI 作品，哪怕质量不好，用户规模和图片数量是空前的，每个月产出上百万张图片不在话下。) t5 \2 W ]; n
% x4 e$ A. E, j: V7 F( z& t$ r某 AI 模型网站的生成速度，最多需要 1 分钟. 4 Y2 V# ~$ G7 B/ v) G5 J% c+ j
, y" {5 w! y9 W$ rAI 成人内容的可怕之处还在于，既要从真人取材，也要回归「真实」。
4 u/ _) N3 `4 x& X" O
7 [; s3 v4 E6 t0 y" j, r- T: ^" y各网站最受欢迎的模型之一非常强调现实感，用户们还在 Reddit 讨论怎么给某个器官特写。行业里最优秀的创作者，甚至称自己的作品就像「1080P+ 视频的定格帧」。
' q: z3 v" O* }+ [7 ?; i
, k) `: j3 K: h1 V$ F可想而知，骚扰和勒索也可能会增加，技术的恶面往往最先向无法自保的人刀剑相向。
/ x. a3 f4 @9 P8 F8 x0 w8 [ Q4 h& l+ P/ y2 N
是兴趣，更是交易, D; I; U( L. z$ E6 k
- k9 o _3 Q0 i" a
和性搭上了边，那就不缺交易。买家是出于个人兴趣，卖家则是因为真金白银。除了上文提到的订阅模式，用 AI 色图赚钱的方式还有很多，虽然基本都是「打零工」。
+ D7 D# }" G5 \2 I4 S: e% N M+ y: C ?9 Q% C
在 Patreon、Ko-fi 等具有打赏、赞助功能的平台，可以找到创作者的踪影。一位创作者在 Patreon 有 100 多名付费会员，巅峰时期每个月能赚到 1500 美元。! C4 j& A( F, q, O# v1 @
3 ~8 [1 O# L& F, |. |( M4 M他还顺便加入了另外一个平台的「创作者计划」，每张图片入账 0.001 美元，虽然单价低，但好在他使唤 AI 的速度够快。
# B2 L3 O7 Y" ]
4 N% q% N7 Y/ y& \1 [# Z( _Patreon 的订阅界面.
h. Z6 v+ h, [ I/ w$ [
, H- I& P, f U任务众包平台 Fiverr 也值得一提，它是一个连接甲方乙方的中介，几乎可以购买和出售任何数字化「零活」，比如写作、翻译、设计，不少 AI 创作者明码标价，按照模型和图片数量阶梯收费。) g9 B' D6 M6 {+ i# U o
! F9 D, W9 L1 z6 o/ T* Y
一位 Fiverr 创作者的接活界面. 6 c+ a4 E% e2 S; p
& F# f+ l+ S; _' h" n$ n6 M6 h
还有作风更加极客的创作者，直接在 AI 模型网站贴出比特币钱包地址。% ~3 @# W7 S. y0 o
: r! z+ S9 v0 |7 P4 o% g) X
别说个体创作者了，平台同样赚得盆满钵满。0 R6 s6 u# [7 ~. K: q+ ?3 C
3 W M! g! W' V4 F& V; d' F8 r! J有的 AI 模型网站自己也有打赏功能，同时提供每月 5 美元的会员福利，让用户可以抢先体验新功能，并在官网和 Discord 上的用户名后面戴上独特的徽章。
! t9 a/ C! c, u) F1 m' i6 k n3 s5 i: T2 u) f/ g
AI 模型网站的打赏功能.
, g9 j; V9 E% v7 f( l" K
6 @1 e# v( M% q& X号称全世界第二大成人网站的 OnlyFans，不像 P 站收入主要来自广告并按视频点击量和创作者分成，创作者可以通过用户订阅和按次付费赚钱。
# L( F4 G4 ^" s
/ A/ k4 l S6 y" W$ j% v3 R有观点认为，OnlyFans 改变了成人产业，因为创作者拿回了主导权，通过自己的作品直接获得收入。
+ c2 ?8 y$ ~, H" I
8 C$ l* Y0 n( a0 z/ @: @9 f/ e然而现在，出图更快的「AI 师傅」也在复刻这套商业模式，「传统手艺人」的生财之路可能再次被打断。' K/ `3 J& I8 H" e- ~4 N; G- X9 U, [
* `1 M1 B3 D- Z& K- |
( M* C4 T- \- n& R3 X) ^7 D0 w% c/ `: j
这一集我们在 Deepfake 视频大行其道的时候就看过。彭博社采访的一位 29 岁网红，是其中一位惴惴不安的受害者。
1 V5 h6 o7 `" x4 N# P$ U6 F$ a* b j, x# }: i$ F! } f1 E" ]
放在以前，如果想看她玩电子游戏，可以每月花 5 美元订阅 Twitch，如果想看她尺度更大的内容，可以每月花 15 美元订阅 OnlyFans。5 h0 }, x& s$ V- i; R
7 M/ Z: r& r* c* d- e
! E% b; q2 D# }8 W然而现在，粉丝可以花更少的钱或者免费观看她的 Deepfake 视频，只要带着她的大名搜索 Google。与此同时，心理创伤如影随形：2 T7 `/ C1 W R# D7 ]/ p
7 X1 U+ M$ v( A. [人们总是在发布新视频，在你不同意的情况下看到自己出现在色情片中，感觉很恶心。% h* x: K5 c# A. a7 V% _
9 W: _; @8 a8 I1 x* HAI 色图这把火，也迟早烧到真人头上。一位在 Reddit 发图的「女菩萨」很是悲观： `6 m: z$ h1 u
! i. |/ `8 }- \% Z+ F* O, L4 b
过去没有采取任何措施来保护我们，所以我不明白为什么现在会激励任何保护措施。( a8 I: j [6 l/ T! j1 u
' x; W( ^3 q: f操作猛如虎，维权打地鼠& Y% j6 h3 X- R# e
, Q2 ^" s: k o! m, a1 K作恶成本低、维权成本高，是 2017 年「黄色」Deepfake 兴起之时就有的毛病了，现在它只会变得更加严重。
P) G. |, m3 {2 y# b3 | ]) g3 T9 Z# ^/ e( k
撤下未经本人同意的 AI 色图，往往是靠受害者自行发现，或者平台事后补救。
+ M! A! D5 q3 r: f) ]. B1 Z3 s' `* Q I$ r ~
U3 F6 a- D" |8 ?0 w0 R按照 Google 的服务条款，如果证据充分，用户可以请求 Google 删除某条具体的链接。然而「野火烧不尽」，这就像一个没有终点的打地鼠游戏。6 @9 n. b0 q8 i6 ]8 r% P
% x3 C% ]; B4 d% o不过，Google 也在改进排名系统，减少此类内容的出现。' i" ~5 O, N. r& n- e6 N
6 n( m3 U% R4 BGoogle 的服务条款. 6 o$ K( Y7 R- h+ r V* T
) D3 l# z$ {: L$ p$ g+ \; O5 ]% M提供 AI 模型的平台们也并非没有意识到，技术存在被滥用的可能，但前所未有的内容规模，已经不允许平台只是沿用以前的审核策略。* S0 H3 c0 @1 P( u. V
- s8 I7 `! |; J404 Media 记者发现，某 AI 模型网站的服务条款允许色情内容，也允许真人内容，但不允许两者兼而有之的真人色情内容，尤其涉及到未成年时。
! g, {% x" o3 p- ?3 K) Q5 q) f. N7 L1 K. v7 u7 ^ N$ w, _
然而，此类内容仍然不断发布，部分被平台删除，部分已经「幸存」了几个月。7 F+ M9 s% n8 ]! R3 U/ y _% x) Q
& R/ B- f4 B% H2 C3 F$ V6 H4 X某 AI 模型网站的服务条款. 2 Z3 _" i2 ?( K6 |
5 g0 t! a0 j4 S3 E
只能说，意识到位了，但方法没有。对技术的规范，总是相对技术落后半步。5 j( p- {: i O3 b
8 X+ O5 M: S5 d. j! p! I1 E8 g
类似地，生成真人色情图像，违反了 Discord 的社区规则，但管理起来并不容易，靠的主要是用户自觉。) m# q3 F8 l# o% l
- B6 o+ m% e1 J; C! ^$ FDiscord 的信任与安全团队，负责检查用户、版主或记者的报告，如果有人确实违反了社区准则，那就发出警告、删除内容、关停账号等，存在一定的被动性。9 @ O* A" D) ?7 S
) C1 f) f5 `6 U0 I# Q) ^/ J8 BDiscord 的社区准则，上为原文下为翻译.
* ^5 Z% a- g% N7 G
7 } y1 J5 p6 y; c讽刺的是，把 AI 色图分享到 Discord，也会被 AI 模型网站的用户内部批评，不是问心有愧，而是因为这坏了规矩，有可能让社区被禁：「你可以在网站上创建它，但不能在这里分享。」; P0 g0 m5 T; |) d4 P3 _4 }1 B
, {2 \6 I" ]7 F) G! Y+ v
甚至法律也不一定派上用场，就像 Deepfake 存在这么久了，美国只有几个州在为它立法，但因为杂乱无章，很难真正执行，并且有些创作者想尽办法隐藏身份，既然找不到人维权，很多时候受害者只能吃下哑巴亏。, O. G H" c' x; ]1 m; B! v
) x; V' w& \$ z* U( ^
好在几个更加主流的文生图工具，用技术为技术事先附加了制约。
. N0 r, E' g e- K
2 N0 u# C5 k4 r
7 f9 ]( o, {0 [6 t" r+ E3 B4 OOpenAI 旗下的 Dall-E，尽可能减少了训练数据中的裸体图像，并且在实际使用过程中，阻止某些提示词的输入，以及在图片显示给用户之前扫描输出结果。
6 d3 a4 B: F% s: K. y: X. E) }9 V3 ~; O& K( {- P/ h7 T
Midjourney 也有屏蔽词和人工审核，还计划推出更先进的、能够关联上下文的过滤功能。
( k! d8 u. F; w o) [
l- Z( `" g1 x9 Z( _3 kStable Diffusion 背后的公司 Stability AI 也曾回应过类似的问题，「对任何开源代码所做的事情都是无法控制的」。4 @# c A2 Y& |4 Y9 V! p/ |7 F
0 G/ F, T$ J0 |
尽管如此，Stability AI 认为，识别此类行为并将其定为犯罪，还有很多事情可以做，开发者社区和互联网基础设施提供商也应该参与进来。
! E3 O, q6 p+ a* M# b: C8 h
. M8 @4 A/ c( j* Q* c! k. t1 J' l; {2 d5 ~
简言之，对技术的规范就像钝刀子割肉，不能立刻起效，而 AI 色图的问题远比以前严重，靠的是一条运行顺畅的「生产链」：8 Q/ t/ E: b# \
) I( H1 a8 m9 c1 ^3 a7 g1 E提供训练图像的内容社区；( b2 c" t! _2 X% ]* B; a
# a1 R% Q, Q; ]$ g) m5 h
生成色图的开源技术；0 R B5 w. R) A
/ J* \0 f, `4 p# W/ }
将 AI 模型和图片商业化的平台；
! U( ^, v5 t) s* I# F" ]$ Q8 i& W2 d$ j8 e7 I s# Y
自从 Deepfake 问世，我们就遇到了同样的问题。人性难测，技术的普及和滥用只有一步之遥，工具更加容易上手了，商业模式也走通了，那么创建和分发色图的动力就更大了。
! p: G6 L4 m/ e3 p0 p
) f" h# Z, g8 @& ]( u. r1 O+ g. C8 i9 S
. ]4 y* K c& `+ t0 b很多时候，互联网的成人行业已经被「非人化」地看待，当真正非人的 AI 取而代之，继续满足刻板印象，可能导致物化更上一层楼，而不是停止物化。
/ ^- t) Q! n0 ^2 [. c& M4 S8 t, r0 h, N- V
就像《攻壳机动队》提出的问题那样，真实和虚假不再沟壑分明。完全像你的人做出了你从来不会做的事，但你很难证明那不是你，数据就是你，存在过的痕迹就是你。
7 ^7 Z$ V- I" w( |+ F7 ]5 m, J4 n" N: f( ]2 ]8 l+ i7 S
每当 AI 被最先应用到色情产业，总有人说，这会加速技术普及，或者不再需要真人。有人用金钱兑换欲望，有人不经意被投入技术熔炉，却没有谁会为伤害买单。7 d/ y$ H# f2 w. Q% j# t
+ H7 N4 ?0 d2 k7 ~! d
来源：爱范儿 张成晨
5 m8 t9 q3 }# u) w S |
发表于 2023-9-8 09:58
发表于 2023-9-8 12:19