跳至主要内容

90 篇文章 含有標籤「AI 🤖」

語言模型、生成式 AI、AI 內容

檢視所有標籤

人類 DDoS 攻擊

· 閱讀時間約 3 分鐘 ┊ 純文字版

想像一下,你開了一間小小的咖啡店,店內大概只有十幾個位子的那種。平常來店客人的數量剛好足夠你跟幾個店員應付自如,小店穩定地運作著。

誰是真的客人?​

有一天,懷有惡意的人組織了數百人同時湧入你的咖啡店。他們看起來都像是普通的顧客一樣,有些是穿著西裝的上班族,有些是背著書包的學生,有些是拿著筆電的自由工作者。

但一陣子過後,你發現有點不對勁。有人進來後就坐在位子上發呆;有個客人一直纏著店員不放,堅持要詢問咖啡豆的來源和採收季節;另一群人則是不斷詢問你廁所在哪裡,即使廁所的標示就在眼前。

櫃台前排起了看不到盡頭的隊伍,每個人都在點餐時故意拖延:「嗯⋯⋯我想要這個,啊不要,改成這個好了⋯⋯啊不好意思讓我想想,還是改成這個?」,接著又突然說:「算了,我等下再點!」然後若無其事地離開,卻悄悄地走回隊伍尾端重新排隊。

最後所有工作人員都疲於奔命,沒有辦法分辨到底誰是真的客人,誰是來鬧的;店門口和內部全部擠爆,整間店陷入癱瘓狀態。

DDoS 攻擊​

這就是 DDoS 攻擊(distributed denial-of-service attack)。

簡單來說,DDoS 攻擊就是利用很多電腦同時對一個網站發送大量請求,讓該網站主機的運算資源或流量塞爆而掛掉,導致網站無法服務正常使用者。

要塞爆一個小小的靜態網站主機(例如這裡),可能也需要每秒鐘數萬個連線次數才能做到。但要癱瘓一間小咖啡店,也許只要 100 個人就夠了。如果是癱瘓一個人的 E-mail 信箱,耗盡他的時間,又需要每天幾封 E-mail 呢?

人類 DDoS 攻擊​

使用現代的 AI 工具,這種「人類 DDoS 攻擊」變得超級容易實現:用 Stable Diffusion 之類的工具產生逼真的人像圖片;用 ChatGPT 之類的語言模型產生各種看似合情合理的 E-mail。一個人就可以輕易地扮演 20 個不同的「正常顧客」,發送看似誠懇的業務合作、諮詢、活動邀約,或是各種需要收件者花時間處理的 E-mail。

因為 E-mail 的內容看似都很誠懇、合理,讓人很難放著不管,被攻擊者也只好認真一封一封回覆。但最後所有的回覆都石沉大海,許多活動邀約在查證後也發現根本就不存在。最後,被攻擊者的時間和精力被耗盡,真正重要的 E-mail 則淹沒在無數垃圾信當中,根本分不清真假。

至於你問我要怎麼防範?等我先把收件匣裡的 20 封活動邀請信回完再說吧!

這是我做的

· 閱讀時間約 1 分鐘 ┊ 純文字版

我以為這是常識:

  • 用影印機複製了一份文件,沒人會說「我抄了一份」。
  • 在 Photoshop 裡把自己的臉修瘦,沒人會說「我減肥成功了」。
  • 用 Auto-tune 修準音高,沒人會說「我學會唱歌了」。

但是現在人們會:

  • 完全複製 ChatGPT 的輸出,然後說「我寫了一篇文」。
  • 用 Stable Diffusion 生成圖片,然後說「我畫了一張圖」。
  • 用 Suno AI 產生音樂和歌詞,然後說「我作了一首歌」。
  • 現在甚至還可以用 Sora 生成影片,然後說「我拍了一部片」?

寫三行 Prompt,按個按鈕:這叫做「生成」,而不是「創作」。

就大方地說「生成」就好,不需要騙自己這是「創作」呀!

NotebookLM

· 閱讀時間約 3 分鐘 ┊ 純文字版

昨天試用了 NotebookLM,雖然我一般來說不是太喜歡 Google 的產品,但我還是得說 NotebookLM 的「音訊導覽」功能真的非常有趣!

👂 聽聽看

聽 NotebookLM 的兩個主持人討論這篇文章(也就是他們自己)。

音訊導覽?​

這個「音訊導覽」功能,簡單來說就是一個「AI Podcast 產生器」。你可以上傳任何文件給它,不論是部落格文章、論文、日記都可以;然後它就可以產生一段類似好檸檬 Podcast 風格的英文對話,由一男一女兩個 AI 主持人來討論你的文章(他們的節目名稱叫「Deep Dive」(深入探討))。

我上傳了幾篇這個部落格的貼文來試試看,聽兩個 AI 主持人討論自己寫的文章真的是很有娛樂性耶!我是說,這就像是合法版的「偷聽別人談論自己」,只是這次不用躲在門後聽了。

除了娛樂用途之外,我可以想像這個對於理解複雜文章會很有用,因為它是讓兩個 AI 用輕鬆聊天的方式討論給你聽,資訊的步調變慢了,所以可以讓你更容易吸收文章的內容。

要說有什麼明顯缺點的話,那就是它的 Podcast 有點太想要擬人了,所以會刻意加入些微的卡詞、笑聲(但有時候笑點不太好笑);以及其中一個人在講話時,另外一個人常常會反應太多,一直「Yep、Yes、Sure、嗯嗯、Totally、Exactly、Oh Wow」的,有點煩。

目前因為它還是測試版,所以是完全免費的,但我可以想像這個應該之後會變成付費服務。

有沒有辦法自己打造類似的功能?​

其實 NotebookLM 大約就是把以下兩個步驟串起來而已:

  1. 用大型語言模型,把輸入的文件轉成兩人討論的 Podcast 逐字稿(這點用 Claude、ChatGPT 或各種離線模型都能做到)
  2. 把文字輸入到某種「文字轉語音」系統,產生最後的聲音檔案。(線上服務有很多家可以選擇,英文的話應該也有不少不錯的離線模型。)

GitHub 上面也有一個 open-notebooklm 專案,就是利用 Llama 3.1 和開放原始碼的文字轉語音模型來達成。我覺得效果沒有 Google 的好,但應該只要再給它一些時間就可以趕上了。

去試試看!​

趁 NotebookLM 現在還免費,去試試看吧!

Apple Intelligence,你的說謊大師

· 閱讀時間約 2 分鐘 ┊ 純文字版

看到兩個 Apple 官方關於新 AI 功能的廣告。

Zac!!!​

其中一個的劇情大概是這樣:一個女生在聚會中看到一個見過面但不熟的男生,她忘了男生的名字了。於是她問 Siri:「幾個月前我在 XX 咖啡廳見過的那個人叫什麼名字?」,Siri 回答那位男生叫做 Zac。

然後男生剛好走過來:

Zac:嘿...

Bella:Zac!(超興奮、似乎許久不見摯友的語氣)

Zac:哇,沒想到你還記得我。

Bella:當然記得,我一看到你就想起來了!是 Zac,沒人走起路來的樣子像 Zac。

(Zac!我跟你很熟啊!你忘了嗎?)

我知道,因為我讀過了​

另一關於 E-mail 重點整理功能的廣告:

經紀人:那麼,你覺得我寄給你的提案如何?

Bella:對,就是你寄給我的那個,我記得。(拿起手機)

Bella:那個《Dogge Days》的提案,哇,好有趣的標題⋯⋯(按下「整理重點」按鈕)

Bella:⋯⋯很維多利亞風格,我很喜歡。形成了一段獨特的關係⋯⋯我喜歡獨特的關係。

經紀人:而且(故事)還有個轉折。

Bella:我知道,因為我已經讀過了。(故作堅定的眼神)

經紀人:太好了!我要告訴他們你有興趣。

(是喔,我真的讀了你寄的 E-mail 喔!)

哇!有了 Apple Intelligence,我可以:

  • 假裝我跟不認識的人很熟,以及
  • 在根本沒讀過提案之前就答應(這超危險的好不好),

對人生真的好有幫助啊!

畢竟,科技始終來自於人性。而人就是想要在不付出努力的情況下,扮演一個認真負責、重視人際關係的好人。現在有了 Apple Intelligence 的幫助,我們的謊話可以變得更優雅、更可信了!

(先不管近年來 Apple 廣告品味差的問題,Apple 你到底什麼時候才要把 macOS WindowServer 閃退的問題修好啊?我從 macOS 13 升級到現在已經是 15 了,同一個 bug 還是沒解決,這 bug 是要打算當傳家寶嗎?)

AI 垃圾內容攻擊!

· 閱讀時間約 6 分鐘 ┊ 純文字版

檸檬卷在一個 PDF 檔案分享網站(不想幫它宣傳,所以不說是哪一個)看到一份文件,想要下載。但那個網站竟然說你必須要上傳五份文件,才能換取一個下載,不然就得要花錢買會員。

先暫時不吐槽這個網站的商業模式有多麼可疑。但如果我真的就是需要下載那份文件,我要拿什麼東西跟它換呢?

我當然不想上傳自己私人的文件上去。但如果只是隨便打一些亂七八糟的文字存檔,或者是上傳一些別人已經上傳過的公開文件,它也是不會讓你通過的。你必須上傳獨特的原創內容。

AI 垃圾內容攻擊​

怎麼辦呢?看我使出「AI 垃圾內容攻擊」!

用之前介紹過的 ollama,加上一行 bash 指令就可以完成了!

for i in {1..100}; do echo "$i/100"; ollama run gemma2:2b "Write a long random story." > "story_$i.txt"; done

(以上指令用的是 gemma2:2b 模型,你可以換成自己喜歡的模型。)

執行完之後,你的資料夾內就會出現 100 個隨機無意義的故事,每一個都存成一個 .txt 檔。隨便選五個上傳,全部過關!

兩個想法​

  1. 真的想要分享文件的話,有太多其他方法可以用,別用這種奇怪的平台。
  2. 這種依賴用戶上傳(常常有版權問題的)文件,然後把它鎖在 paywall 後面來收取訂閱費用的網站,遲早會出事的。

想讀一篇垃圾內容嗎?​

想讀其中一個無意義故事嗎?這個是 story_42.txt 的繁體中文翻譯版:

# 艾拉拉的沙漠傳說

艾拉拉是一隻三色貓,她的眼睛像紫水晶一樣閃耀。她生活在一個以赭石和青藍色為主調的世界裡。那裡的太陽是一個巨大的玉色光球,它投射出不斷變化的光芒,為起伏的沙丘披上一層火焰般的色彩。艾拉拉住在一個破舊的洞穴裡,這個洞穴位於一片高聳的仙人掌森林中,是無數貓咪的家園。

今天是市集日,這是一個來自赭色平原各個角落的貓咪齊聚沙漠中心 - 大綠洲的日子。在這裡,他們討價還價、交換故事,在沙沙作響的風中低聲細語,他們色彩繽紛的毛髮在金色的沙地上如波浪般起伏。艾拉拉喜歡市集日,這天總是讓她充滿興奮和些許焦慮。

今天,她有一個重要的任務要完成 - 出售她最珍貴的寶物:一個李子大小的月光石吊墜,閃爍著一種超凡脫俗的光芒。傳說這個吊墜蘊含著遺失夢想的低語,能讓擁有者一窺自己內心的渴望。艾拉拉相信它是開啟自己創意潛能的鑰匙,因此她小心翼翼地保護著這個精緻美麗的寶物。

前往綠洲的旅程十分艱辛。艾拉拉穿越險峻的火山岩路徑,躲避好奇的蜥蜴 - 牠們的鱗片在陽光下會變色。她遇到了一隻脾氣暴躁的獾,牠要求嚐一口她的尾巴才肯讓她通過洞穴。她還遇到了一群身形敏捷的沙漠狐狸,牠們挑戰她在沙丘間跳躍的敏捷度。

綠洲是一片喧鬧的海洋。從低聲細語到熱鬧的討價還價,充滿活力的氣氛震盪著艾拉拉的全身。她在閃爍的水池旁搭建了自己的攤位,周圍都是其他貓咪 - 有的身形苗條敏捷,有的壯實魁梧。空氣中瀰漫著乾魚和奇特草藥的香氣 - 這些都是製作各種魔藥的原料,據說可以實現從長壽到戀愛的各種願望。

艾拉拉心跳加速,她走向一群藍毛貓。牠們有著大而明亮的眼睛,說話聲音低沉如雷鳴。牠們談論著一個古老的預言 - 一隻擁有月光石吊墜的貓將帶來新的黎明。"你手中掌握著實現這個預言的關鍵,"其中一隻貓低語道,牠的聲音迴盪著艾拉拉自己的焦慮。

艾拉拉緊張地舉起月光石吊墜,冰涼的表面貼著她的毛皮。"我..."她開口,但話語卡在喉嚨裡。

突然,一聲震耳欲聾的吼叫響徹綠洲。一個巨大的陰影籠罩了他們,讓陽光變得詭異陰暗。那是一個神話傳說中的生物 - 沙蛇! 牠的鱗片像祖母綠一樣閃耀,眼睛燃燒著熔金般的光芒。艾拉拉的恐懼轉變成敬畏。這是命運的時刻,她一生的目標就在眼前展開。

沙蛇發出嘶嘶聲,如雷鳴般在沙漠中迴響。從牠的口中噴出煙霧和塵土,盤旋在空中。一個問題從牠口中吐出:"帶來黎明的貓在哪裡?"

艾拉拉僵住了,吊墜從她手中滑落。她的夢想,她的希望,似乎都失去了。但當她望進沙蛇的眼睛時,一絲理解的火花在她心中點燃 - 不是通過言語,而是通過他們共同凝視的無聲語言。預言不是關於尋找具體的東西,而是關於承認它固有的真理。

艾拉拉閉上眼睛,深深地吸了一口沙漠的空氣。然後她知道該怎麼做了。她不會出售月光石吊墜;它太珍貴了,是太私人的寶藏。相反,她要給沙蛇一個機會 - 不是佔有,而是分享一個故事。

艾拉拉開始講述沙漠的奇蹟,她的話語與風交織,述說著日出和星光閃爍的夜晚。沙蛇專注地聆聽,牠的鱗片閃爍著對這個小而勇敢的生物新生的尊重。寂靜蔓延開來,只有沙漠的微風輕輕打破這份靜謐。

就在希望似乎消失的時候,艾拉拉的聲音帶上了一種近乎空靈的品質,她低語道:"黎明不是你找到的東西;而是你創造的東西。"沙蛇的眼睛因理解而睜大。牠聽到了真正的訊息:不是預言,而是承諾。

從那天起,艾拉拉不再只是一隻出售月光石的貓;她成了一個說故事的人,一次一個低語的故事,將夢想編織成現實。事實證明,黎明不是關於尋找一個吊墜,而是關於通過她自己聲音的力量創造世界。

就這樣,艾拉拉繼續生活著,她的心充滿了講故事的魔力和廣闊赭色平原上遺失夢想的低語。月光石吊墜從未離開她身邊,但它成了一個提醒 - 不是提醒她能達成什麼,而是提醒她已經開始了什麼。

我預測再過不久,那個網站就會成為世界上最大的「無意義故事集」。 🤣

去背

· 閱讀時間約 1 分鐘 ┊ 純文字版

Rembg 真是好好用阿!只要一行指令就直接去背好了;可以單張圖處理之外,也可以一次處理整個資料夾。

我還記得小時候想做這樣的去背,要用 Photoshop 的鋼筆工具慢慢描,或是需要用到類似 Corel KnockOut 之類的專有軟體才能完成呢!

離線 AI 好爽!

· 閱讀時間約 5 分鐘 ┊ 純文字版
資訊

一年半後,我又寫了這篇的續集:離線 AI 好爽(2026 年版)

有一位 blog 讀者,在看到我的《NVIDIA 的浪漫》這篇之後,寫信問我:

  • 我買兩張 RTX 4000 到底是要做什麼?
  • 以及,為什麼不買速度快很多、價格卻差不多的 4090?

簡單來說,我的主要目的是在自己的電腦上離線執行各種 AI 應用程式,順便學習、研究這一切相關的東西,這樣才不會被時代淘汰啊!以下介紹一些我目前常用的東西。

Ollama:離線的大型語言模型​

首先,最主要的原因是為了使用 Ollama,這是我現在每天都大量使用的工具。

我知道線上有 Claude 和 ChatGPT 可以用,但能夠在自己的電腦上離線執行大型語言模型,不需要依賴線上服務的感覺真的很爽啊!再加上離線的語言模型可自訂性更高,甚至還有「無言論審查」的版本可以下載,把政治不正確指數拉到最高!

例如,如果我問 Claude「要怎麼欺負別人」,會直接被訓話一頓;但問無言論審查版的 gemma2,它會很樂意地告訴你!

(Claude:乖寶寶不可以欺負別人喔!)

(Gemma2-uncensored:讓我來教你成為「欺負大師」,好好玩喔!)

目前我覺得最聰明的模型是 llama3.1:70B,它的聰明程度幾乎逼近 GPT-4o 和 Claude 3.5;但它也需要將近 40 GB 的 VRAM 才有辦法跑(不然會超~慢~),這也是我為什麼想要有兩張 RTX 4000 的主要原因。

我也很喜歡 gemma2,它的 9B 和 27B 模型都滿好用的,速度比 llama3.1:70B 快很多;回答問題的語氣、習慣也都跟 llama3.1(或線上的 Claude 和 GPT-4o)不太相同。

(gemma2 模型好用!而且速度很快!)

我現在的工作習慣是同一個問題都會問好幾個模型,把它們的回答都列入考慮。我覺得花錢買 GPU 來離線跑大型語言模型完全值得,這就像是你請了好幾個工讀生幫你解決生活問題一樣,省下來的時間價值絕對遠遠超過 GPU 的花費!

FLUX.1:離線產生圖片​

我知道也有很多線上服務可以產生圖片,但跟前一點一樣,能夠在自己電腦上離線執行,感覺真的很爽!

更重要的是,幾乎所有線上圖片產生器都有內容審查機制。譬如說,我想要產生包含 Windows LOGO 的圖片,線上產生器通常都不會允許。更別說是生成一些「更奇妙(嘿嘿)」的內容了。使用離線版本的話,完全都沒有以上問題!

(離線的 FLUX.1,可以產生正確的 Windows LOGO!)

我有時也會用 Stable Diffusion,但現在新的 FLUX.1 模型更強大、更好用!

Whisper:語音辨識與字幕產生​

Whisper 是一個超級強大的語音辨識工具。你只要輸入一個語音檔,它就可以直接產生逐字稿或字幕檔。

除了用來製作影片字幕之外,我更常拿它來處理我懶得看的、太長的 YouTube 影片。只要:

  • 用 yt-dlp 下載影片
  • 用 whisper 轉換成文字
  • 再用線上的 Claude 或離線的 ollama 整理重點

你就可以在三分鐘之內,得到一小時影片中的精華部分!

Demucs:音樂分軌​

Demucs 是一個超厲害的聲音分軌工具。輸入一個音樂檔案,它就能自動把它拆成 Vocal、Bass、Drums 和 Others 這四個分軌。分軌的品質很好,而且速度很快!

不管是想要研究音樂、取樣,或者製作伴奏帶給學生,這個都是不可或缺的工具!

Krita + Stable Diffusion:AI 輔助繪圖、修圖​

Krita 是一個自由的繪圖軟體,它可以安裝 Stable Diffusion 外掛程式來輔助繪圖、修圖、美顏、移除物品等等。

這個組合比很多昂貴的專有軟體都還要強大,真的很神奇、很好用!你一定要試試看!

(Krita + Stable Diffusion Plug-in 可以把我的幼稚園繪圖,變成真實的照片!)

而且我其實只用到了一點點功能而已。你可以到 YouTube 上看其他達人使用它,保證會讓你下巴掉下來!

為什麼不買 GeForce RTX 4090?​

雖然 RTX 4090 性能更強,但我還是選擇了 RTX 4000。因為:

  • 用途:RTX 4000 是專門設計給 AI 應用程式的專業卡;我不太在電腦上玩 3D 遊戲,所以不需要 4090。
  • 耗電:RTX 4000 的 SFF 版耗電只有 70 W!RTX 4090 要多少?快要 500 W 好像!
  • 散熱:由於耗電低很多,RTX 4000 的散熱需求也不高,體積也小;在我小小的機殼裡,不需要額外的電源就可以直接裝兩張!
  • VRAM:RTX 4000 有 20 GB 的記憶體,裝兩張就有 40 GB 了。如果是裝兩張 4090 的話,我的客廳可能會直接變成一個烤箱?
  • 已經夠快了:RTX 4000 雖然只有 4090 的 1/3 的速度,但是卻只使用 1/5 還不到的耗電和熱能啊!雖然沒有那麼快,但是就我的使用情境而言,這是我完全可以接受的妥協。

NVIDIA 的浪漫

· 閱讀時間約 1 分鐘 ┊ 純文字版

NVIDIA RTX 4000!而且是兩張!!

對我們這些真.宅男來說,擁有 40 GB 的 VRAM,就像女孩們擁有 Chanel 包包一樣,無比的幸福感啊!

(不要跟檸檬卷說多少錢)

貝多芬長什麼樣子

· 閱讀時間約 2 分鐘 ┊ 純文字版

今天在 Google 上搜尋貝多芬,結果出來的第一張、最大張的圖竟然是⋯⋯一張明顯是 AI 生成的圖片!這是什麼鬼?現在我們的搜尋引擎想要幫我重新定義歷史人物的長相了嗎?

(你?是?誰?)

好吧,我想也許只有貝多芬是特例,Google 搞不清楚他原本長怎樣,於是我轉而搜尋蕭邦。這次出現的第一張圖的確不是 AI 生成的了,而是⋯⋯一個藝術家製作的 3D 模型。1

(我的天,這根本是「想像圖」好嗎?這是誰啊!)

我真替下一代感到擔憂耶!現在他們每天接觸的資訊,根本分不清是真實存在過的,還是 Stable Diffusion 把網路上千萬張照片攪和後輸出的超加工產物,或只是某個藝術家的腦內小劇場。

想像一下,未來的孩子們在做音樂報告時:

學生:「老師!我找到莫札特的照片了!天啊,他好帥啊!」

老師:「喔?讓我看看。」

學生:「太酷了!所以十八世紀的人都穿成這樣嗎?」

老師:「呃⋯⋯不完全是⋯⋯」

學生:「那莫札特當時用的是哪個編曲軟體?他也有訂閱雲端音色庫嗎?」

(然後音樂老師決定,在下一堂課把主題改成「為什麼十八世紀音樂家不使用 MIDI 鍵盤」。)

歡迎來到 2024 年,一個歷史真相被 Big Tech 和 AI 重塑的奇幻世界!好好享受吧!

Footnotes​

  1. Frédéric Chopin 3D modeled by Hadi Karimi, CC-BY-SA 4.0 ↩

Gemma2:9B 你好棒

· 閱讀時間約 1 分鐘 ┊ 純文字版

今天一如往常地打開 Claude.ai,想要它幫我修順一些稿,但一直登不進去。於是我打開自己架的 Ollama Open WebUI,載入 gemma2:9b 語言模型。結果⋯⋯

它真的很棒耶!當然沒有 Claude 3.5 那麼強啦,但是就我的修順稿子的工作來說,它的輸出完全可用!

其實我的電腦配備是可以跑更大的語言模型的(我有一張 nVidia RTX 4000 Ada 20 GB),跑大概 30 幾 B 大小的模型都沒問題,但是最新的 Gemma2 和 Lamma3.1 系列,竟然只要 8~9 B 的參數就可以打敗一些去年的 30 B 大模型了。而且只有 8~9 B 的小模型,跑起來速度很快,用起來心情好!

(太刻意了,不像台灣人。)

就算你的電腦沒有很好的顯示卡(GPU),甚至完全沒有獨立 GPU,你還是可以試試看跑更小的 Gemma2:2B 模型,我在我的 ThinkPad X280 試過,速度也還是可接受的。

(好像怪怪的,我們的國旗有綠色嗎?) 🤣