上世纪末的作品《攻壳机动队》中，全身义体化的素子，怀疑自己是否仍然存在。身体、记忆和其他人的关系，当这些事物都能够被复制，也就无法成为肉身生命的论据。
# ?) D6 S5 H0 V, y
7 W8 L! y. d- ]) J( i3 W, @
' b0 o9 H: s! w/ F9 ?. e1 R& dAI 歌手爆火之时，孙燕姿也在回应里提出类似的观点，你并不特别，你已经是可预测的，而且不幸你也是可定制的。( K* b1 }( ^- z
2 k5 u; c7 a: @* |. E- C我们可以加上一句，任何人都是可以被 AI 描述和生成的，哪怕你从未做过某些事情。9 c4 v* b( T3 @8 W
! i, n' E& X: }2 S鲁迅真的说过，一见短袖子，立刻想到白臂膊。人类的想象力是共通的，毫不意外，每当技术有新进展，某个垂直赛道会被开发得越发成熟：搞黄色。
: L8 E& z, D) ^- ` C
2 J8 a# O8 R; x: z从明星网红，到每个普通人
" S5 s0 l# ]% s" R) G2 C6 F& `; ?) Q# U7 k
2017 年兴起的色情 Deepfake 有续集了。- a+ B- U% T: M& U+ ?4 Z
4 w W6 a5 G1 I3 u2 I# e: N
之前是换脸的「移花接木」，眼下是数行文字的「无中生有」。: H$ N) L2 E* E; l% g# v6 ]2 q
7 ^" \0 [, [- d3 P, o B& {( w' Z
AI 作图发展到如今，已经有了很多分享 AI 模型的网站，你可以用来生成各种风格的图片，莫奈笔调风景画、韦斯·安德森配色产品图，当然也包括仿佛真人出镜的色情场景。
+ }2 v& B$ b/ \, K6 L3 f) H/ I# W a. z4 n0 W
「Create Anything（创造任何东西）」，这是其中一个网站（避免有宣传之嫌，名字就不透露了）打出的旗号。虽然啥都能干，不少用户更愿意在「十八禁」大展拳脚。
- T( V: R' @6 t3 _. I' z5 U! F+ a
! M& T. W; c5 }! a5 q' p在文本框输入名人名字，加上「裸体」等提示词，就会得到一个模糊的图像。接下来是另外的价钱，每月 4 美元试水基础版，或者每月 15 美元尊享专业版。+ X& M8 A% H0 k; J% S$ d8 P
. x. ^8 _9 i! p% b" ? 付费解锁界面，NSFW 意为「工作场所不宜」，一般指色情、暴力等内容. ' G, a/ f" c/ @( D
6 r0 g7 y: C) D$ J" y# R- ~不仅如此，生成图片之后，提示词公开可见，让类似喜好的其他用户沿用或者迭代都很方便。
+ W- E, A# ?' n. t: k0 a/ k2 F7 Q8 L- B3 |
另外，这个网站在聊天软件 Discord 有 3000 多名成员和数十个聊天室，他们讨论的都是怎么精进提示词技巧，从而更符合自己对某个部位和姿势的想象。! ^: V) |$ n6 q. H! m) `
; p( ^! a- _8 y3 S4 d- G
好莱坞女星的 AI 模型，已经下载 1300 次.
3 d2 e8 C" _6 B* d% S. A' D$ H8 Z& v- n6 c3 Y0 {
网站的创始人在接受采访时说，NSFW 只占平台内容的一小部分，每月有 100 万个活跃的创作者产出独特的作品。
, f; Y/ x! o0 I! U, M( b' c. g5 z" Y/ K4 y, y0 o: r
在另一个类似的网站，用户可以上传、共享和发现自定义模型，同样是什么风格都有，动漫风、游戏风、胶片复古风…… 但人性所致，带颜色的模型人气居高不下，最热门的几个已经被下载六七万次。
9 q+ d2 |8 e- B" q: t0 y
9 [! m0 y) K" a0 S, H8 a( n 一个「擦边球」模型. ( f! \. E" s/ q- Y) ]- @5 W2 s
- s _* O% H+ n6 l" y色情固然是互联网的一部分，然而问题在于，训练这些模型的真实人物图片，是在互联网擅自抓取的，并没有经过本人的同意。
; a0 q; A! d9 M* N" W! `
{6 ?( P1 f& @有些图片也不是完全露骨，而是让名人穿着内衣，或者某个部位看起来更大，但五十步笑百步的做法，仍然是不道德的。
# P! ~1 l- t# f- R+ d5 [! g9 J6 | _- d' H; ?4 _3 Y( G
这时候就需要稍微解释下原理。很多个性化的 AI 模型，都是基于开源的 Stable Diffusion 微调，而 LoRA 又是一种主流的模型微调训练方法，因为它相对轻量化，用少量图片训练，便能生成特定的人物、物体或画风。
! }4 P1 ?) b: n3 _3 @
" i, Q- _9 c( ^ E之前很火的赛博 COSER 用的也是 LoRA. 图片来自：@勘云工造
, i; o* ^( s! A ^& B
4 `! @, n0 i7 P$ r* E1 Q0 Z( Q _那么对于色图，谁成为了微调数据集呢？
3 y; V/ t$ T1 H
8 `( R! G' [8 i1 T. R- b: y独立媒体公司 404 Media 调查发现，其中一个模型的训练数据，来自「美版贴吧」Reddit 的几个成人主题社区。# O8 Q6 Y. Y/ n+ _
+ D$ V8 ] S* m/ |! w
a- o! R: M4 f$ Z3 N/ W4 {( }6 q9 b( K5 Q) c( o
愿意上传图片，不代表愿意充当 AI 的口粮。一位负责管理社区的 Reddit 用户怀疑，大多数在 Reddit 发布裸照的人，可能并不知道照片正在被用来喂养 AI 模型。
/ P! B, e2 s L; q- m
) p5 Q) ~; q0 H% I7 M8 F倒也不是发出裸照才有威胁。7 月初，德国电信发了一条关于儿童数据安全的广告，展现个人数据被拿去使用是多么容易，后果又是多么严重，呼吁家长尽量少在互联网分享儿童隐私。+ T& N9 Q- y7 o( J$ X
1 ^# g! \2 @0 {. z+ O/ @德国电信广告部分截图，儿童照片可能会被用于制造成人内容. 6 f$ K+ B# o! P% m0 z
. ~; e! c) e0 u8 n6 S2 E这也意味着，威胁不仅在明星和网红头上盘旋，也可能击中在互联网路过的普通人，恐怕离人人都有一个 AI 模型的未来也不远了，只要你我在互联网上有过数字痕迹。
4 Z! {: C+ V# T# d; C; }$ m
& `$ u$ L( o8 ^3 G# K" l根据今年 7 月的互联网状况统计报告，近 50 亿人（48.8 亿）活跃在社交媒体上，占世界总人口的 60.6%。
# d4 M% u; \' r9 p) q2 w8 [! t v. N* r" \) @- N
! Q/ i" p+ w( M0 P! ^
或许有人会问，这不是 Deepfake 换脸时就有的毛病吗？是的，但伪造图片的脚步不会停下，已经存在的问题变本加厉。
; _/ N5 `9 Y* G& n' y2 K5 b }5 H" H+ o" T3 r
从基于生成式对抗网络的 Deepfake，到模拟粒子热运动过程的扩散模型，训练数据集扩大了、算法框架迭代了、算力水平也提升了。更直观的是，普通人在 AI 上也有参与感了。
+ I' v* F0 L# r( f, k! [! H
) z; ]& m9 s W" \( Q从前我们更偏向 AI 消费者，或是刷到真假难辨的汤姆·克鲁斯微微一哂，保持看热闹的旁观心态，或是换上好玩的滤镜跟进社交媒体潮流，交出去的基本是自己的个人信息。0 Q3 J! i+ ^# `: N" k
5 x* A* @7 Z& t' m
TikTok 的「汤姆·克鲁斯」，本人看了也得犯迷糊.
- N# \9 ?' Z9 {, F6 P. g* L2 f" w7 H% M( [8 K) R' O% v/ ]
现在我们都可以是 AI 生产者，登录 AI 模型网站，在文本框输入提示词，由云计算处理需求，几分钟就可以生成某位名人的定制 AI 作品，哪怕质量不好，用户规模和图片数量是空前的，每个月产出上百万张图片不在话下。
, p7 |' e' d) g2 x! k. e' C. H; P$ u5 c: X4 T
某 AI 模型网站的生成速度，最多需要 1 分钟. 2 a4 |, t B! r+ G. w' x# S
. y( d& ^9 s: |' ]9 c. [
AI 成人内容的可怕之处还在于，既要从真人取材，也要回归「真实」。: p* e4 T, @6 r5 _
+ y+ D9 ?6 E6 h/ q5 s4 z! P& l5 \
各网站最受欢迎的模型之一非常强调现实感，用户们还在 Reddit 讨论怎么给某个器官特写。行业里最优秀的创作者，甚至称自己的作品就像「1080P+ 视频的定格帧」。( Z k7 L, g( l: }/ m: C
6 f, f4 @2 j1 ^4 u: U
可想而知，骚扰和勒索也可能会增加，技术的恶面往往最先向无法自保的人刀剑相向。
z R$ M' O( e" Z" E+ h! k8 {3 T* m1 a% q1 _9 ?
是兴趣，更是交易; [; i2 ?# ]2 J6 j
' }6 e. }& e1 ~1 B! |6 O
和性搭上了边，那就不缺交易。买家是出于个人兴趣，卖家则是因为真金白银。除了上文提到的订阅模式，用 AI 色图赚钱的方式还有很多，虽然基本都是「打零工」。9 Y" X) x$ P3 B S; ^! H
" x ?. h, L0 I- ^
在 Patreon、Ko-fi 等具有打赏、赞助功能的平台，可以找到创作者的踪影。一位创作者在 Patreon 有 100 多名付费会员，巅峰时期每个月能赚到 1500 美元。
5 W: w+ S, T8 q; J) r8 ~% G9 ]6 [7 h2 g. Y
他还顺便加入了另外一个平台的「创作者计划」，每张图片入账 0.001 美元，虽然单价低，但好在他使唤 AI 的速度够快。
8 K2 i3 \+ h6 e! U/ [: {; j8 B
% d, D; {8 F8 _2 R! G/ DPatreon 的订阅界面. 8 ^8 V5 m$ e/ G$ F6 H6 S% A
8 `0 X4 D6 E3 Z5 n任务众包平台 Fiverr 也值得一提，它是一个连接甲方乙方的中介，几乎可以购买和出售任何数字化「零活」，比如写作、翻译、设计，不少 AI 创作者明码标价，按照模型和图片数量阶梯收费。
2 S2 H9 F+ a& c+ n: B8 A. h; a
# x9 T6 _$ g3 G A& e$ W3 _1 N8 V* A一位 Fiverr 创作者的接活界面. ( }8 U; G) ^) \$ H) D' ?
! R) P( q/ }0 }还有作风更加极客的创作者，直接在 AI 模型网站贴出比特币钱包地址。% `4 \/ s Z# m' e; @
5 O' L: i! L6 a别说个体创作者了，平台同样赚得盆满钵满。
7 M. T2 e) X' V$ k( x9 W3 C. U- R s4 F
. F5 I, x- o7 f$ d+ Z) Q% } }1 ?有的 AI 模型网站自己也有打赏功能，同时提供每月 5 美元的会员福利，让用户可以抢先体验新功能，并在官网和 Discord 上的用户名后面戴上独特的徽章。
6 e! @% n+ H8 y1 O% J* F; k! |! q! G& U: G) G D$ p" Q
AI 模型网站的打赏功能.
! w# n' T- n' a. ?! h2 |' Z5 {, q0 I7 f$ [
号称全世界第二大成人网站的 OnlyFans，不像 P 站收入主要来自广告并按视频点击量和创作者分成，创作者可以通过用户订阅和按次付费赚钱。2 R# B& c: a4 B, C
% f/ v- W9 J9 B A! d有观点认为，OnlyFans 改变了成人产业，因为创作者拿回了主导权，通过自己的作品直接获得收入。
B7 y4 ?7 \; q$ o) ~+ Q1 N1 J W* O/ r R2 K! L) L
然而现在，出图更快的「AI 师傅」也在复刻这套商业模式，「传统手艺人」的生财之路可能再次被打断。
5 z6 i0 p A+ m+ y" } h# i" Z4 x1 C# w0 ~
/ G- u4 E+ S% x4 K- f
这一集我们在 Deepfake 视频大行其道的时候就看过。彭博社采访的一位 29 岁网红，是其中一位惴惴不安的受害者。7 ~# i9 t0 A* ^/ d
" b0 e. V3 z- f" T W) Z放在以前，如果想看她玩电子游戏，可以每月花 5 美元订阅 Twitch，如果想看她尺度更大的内容，可以每月花 15 美元订阅 OnlyFans。
4 f% I2 z6 M4 y! d/ R
$ |/ [6 @( T0 }1 h8 b' D- \
) V+ K: b' _- o- x2 T/ j* a然而现在，粉丝可以花更少的钱或者免费观看她的 Deepfake 视频，只要带着她的大名搜索 Google。与此同时，心理创伤如影随形：
/ V u0 I) l6 k
2 R: u* U8 }5 \3 d人们总是在发布新视频，在你不同意的情况下看到自己出现在色情片中，感觉很恶心。
# \' n5 w" ^+ a
: w: a8 d% G8 T) ^: VAI 色图这把火，也迟早烧到真人头上。一位在 Reddit 发图的「女菩萨」很是悲观：9 Y$ p7 S' l. F+ V' I3 {4 c4 N
) v0 ^8 O, m; Y# A: R$ s" U过去没有采取任何措施来保护我们，所以我不明白为什么现在会激励任何保护措施。
* P( g: o, K. n1 R
$ J8 z _' O! o4 Z操作猛如虎，维权打地鼠* j E" n( E2 n- \* W) D5 |8 E- b
9 k( h! i2 l. {
作恶成本低、维权成本高，是 2017 年「黄色」Deepfake 兴起之时就有的毛病了，现在它只会变得更加严重。7 M+ ^: R6 K8 \% j t/ O! W
/ `* R& u! _: |2 N/ }0 F+ N" R撤下未经本人同意的 AI 色图，往往是靠受害者自行发现，或者平台事后补救。
( s8 h$ W* l% E6 `3 s Z+ A/ ] U) ]$ a8 M8 l* F8 x3 F3 w: j3 c
1 h1 S3 I4 F) l0 _按照 Google 的服务条款，如果证据充分，用户可以请求 Google 删除某条具体的链接。然而「野火烧不尽」，这就像一个没有终点的打地鼠游戏。$ _7 y$ l0 ]9 q7 @0 D) A
1 D; U& J0 D$ u3 ?4 j* m
不过，Google 也在改进排名系统，减少此类内容的出现。
4 I, m/ s; j1 y2 w9 e
, w1 M, F/ x- i2 m) e JGoogle 的服务条款.
/ V& Y7 R7 e$ Z
* X& }8 I* k: i提供 AI 模型的平台们也并非没有意识到，技术存在被滥用的可能，但前所未有的内容规模，已经不允许平台只是沿用以前的审核策略。
, e# q/ X3 ~6 E5 \( b2 D
' [6 F$ Z6 X) P2 K7 ]404 Media 记者发现，某 AI 模型网站的服务条款允许色情内容，也允许真人内容，但不允许两者兼而有之的真人色情内容，尤其涉及到未成年时。
# e7 P% Y3 p* [+ c1 q5 f A7 r) T- V6 B
然而，此类内容仍然不断发布，部分被平台删除，部分已经「幸存」了几个月。
! U% @8 C0 C: ~4 B8 p% {) C- y4 Z- V9 D# b1 P5 r/ ~7 i
某 AI 模型网站的服务条款. 2 K( W7 g) S& a' z: b! b" c
, @+ h; I6 t) t, q: X" [只能说，意识到位了，但方法没有。对技术的规范，总是相对技术落后半步。' M" o9 N4 ?5 L: G1 z+ ?" E6 j
/ S; b% G" |; v% h0 Z5 e/ b( S$ C类似地，生成真人色情图像，违反了 Discord 的社区规则，但管理起来并不容易，靠的主要是用户自觉。/ i9 q7 b) J% M
, |( b& Y& q8 h7 ~9 ?5 _3 jDiscord 的信任与安全团队，负责检查用户、版主或记者的报告，如果有人确实违反了社区准则，那就发出警告、删除内容、关停账号等，存在一定的被动性。
9 `, i& r. ~5 L5 b" `! O
& n# ]$ i% O- j5 NDiscord 的社区准则，上为原文下为翻译.
. G, Z& P2 l% H0 i, s5 K' m. M) \& Q* G; [
讽刺的是，把 AI 色图分享到 Discord，也会被 AI 模型网站的用户内部批评，不是问心有愧，而是因为这坏了规矩，有可能让社区被禁：「你可以在网站上创建它，但不能在这里分享。」5 R+ l. o" Q; c, n, `# T3 g# P. I
" j' s# r" Q/ A# i5 K( r) c甚至法律也不一定派上用场，就像 Deepfake 存在这么久了，美国只有几个州在为它立法，但因为杂乱无章，很难真正执行，并且有些创作者想尽办法隐藏身份，既然找不到人维权，很多时候受害者只能吃下哑巴亏。
9 c5 N: D4 }9 ]) j
2 u+ N" V' q# F好在几个更加主流的文生图工具，用技术为技术事先附加了制约。
' o% U9 \; L; W# S- H* D% j! Z. h) o% `- Q) T- ]% F* x( p
9 Y0 K6 |$ O1 R v+ x* W8 ^1 L8 j# }OpenAI 旗下的 Dall-E，尽可能减少了训练数据中的裸体图像，并且在实际使用过程中，阻止某些提示词的输入，以及在图片显示给用户之前扫描输出结果。
1 a! j8 v% O5 m0 k# ?+ ~7 X* c) q* y6 p% z+ J1 T# H
Midjourney 也有屏蔽词和人工审核，还计划推出更先进的、能够关联上下文的过滤功能。" X6 R1 v0 W6 k% ?6 {9 @" _
; W: S \! g' L& M6 I: r
Stable Diffusion 背后的公司 Stability AI 也曾回应过类似的问题，「对任何开源代码所做的事情都是无法控制的」。) a3 ]- w, U9 f4 d/ g/ n3 F
; s0 u. l. O" ]尽管如此，Stability AI 认为，识别此类行为并将其定为犯罪，还有很多事情可以做，开发者社区和互联网基础设施提供商也应该参与进来。
5 V( b1 f- l6 @3 a% U( |' W: K- ]7 l0 r1 d( [+ a
6 G9 m& j+ w: Z5 A( r简言之，对技术的规范就像钝刀子割肉，不能立刻起效，而 AI 色图的问题远比以前严重，靠的是一条运行顺畅的「生产链」：+ o! l/ [# B% j* R$ B3 r# f
6 Y0 P" `7 ?5 j
提供训练图像的内容社区；
" F' h: [( V- a% i
2 O5 |$ V9 I7 \0 l0 m l$ G% z生成色图的开源技术；( | Q0 E) p8 W! x) H c
& b* T$ } r7 H3 P将 AI 模型和图片商业化的平台；, N8 \% [% A2 X- c9 b! O' e
: l6 M: w& x$ P' z5 f
自从 Deepfake 问世，我们就遇到了同样的问题。人性难测，技术的普及和滥用只有一步之遥，工具更加容易上手了，商业模式也走通了，那么创建和分发色图的动力就更大了。7 a. e1 M) `% R8 s- i0 Q/ t
' o/ @! O; i4 q7 |, C _; n& h5 I+ g; n
很多时候，互联网的成人行业已经被「非人化」地看待，当真正非人的 AI 取而代之，继续满足刻板印象，可能导致物化更上一层楼，而不是停止物化。) d q$ u$ |( }# w
( R/ K2 F' Z( B% r. {/ }就像《攻壳机动队》提出的问题那样，真实和虚假不再沟壑分明。完全像你的人做出了你从来不会做的事，但你很难证明那不是你，数据就是你，存在过的痕迹就是你。
8 l" C1 ^8 ]8 O! _6 X3 ~+ _6 r; i0 ]1 t+ c7 R8 v. _& h
每当 AI 被最先应用到色情产业，总有人说，这会加速技术普及，或者不再需要真人。有人用金钱兑换欲望，有人不经意被投入技术熔炉，却没有谁会为伤害买单。
7 A* f1 x+ E# o9 n- ]
* { G6 z! b5 D来源：爱范儿 张成晨4 E7 X& v7 z/ M1 x3 n
|
发表于 2023-9-8 09:58
发表于 2023-9-8 12:19