如何讓 ChatGPT 摘要大量內容:不同方法的優缺點

讓 AI 做摘要是現在很常見的 AI 應用,但現在就算都使用 OpenAI,各家摘要的品質參差不齊。主要原因有兩個: AI 摘要結果不如預期的兩個原因 1. Prompt 這可能是最關鍵的問題。「摘要」這件事不如大家想得這麼單純,它要考慮的東西不少。 舉例來說,同樣一則台積電新聞,一般大眾和投資人關注的重點就不同。如果站在一般大眾的角度摘要重點,對投資人來說無用資訊太多,該講的重點沒講;如果站在投資人角度摘要,對一般大眾來說又省略太多前提,看不懂,也不了解為什麼這是重點。 「重點」是什麼,這很因人而異。一個人認為的重點,可能是另一個人眼中的廢話。所以你不能單純用「幫我摘要重點」作為 prompt。而要針對不同情境、不同使用者,特製該情境下的 prompt。 這也是為什麼大家會讓 ChatGPT 在做廣泛閱讀時做摘要,但回到自己專業領域,通常不會信任 ChatGPT 的摘要。因為前者就算是泛泛之論仍會有點收獲,但後者對摘要的品質要求變得很高。 2. 技術選擇 這邊要先了解一下目前技術的限制。現在最強的語言模型還是 OpenAI 的 GPT-4 和 GPT-3.5。 GPT-3.5 目前在摘要上最大的問題是一次能塞的內容少。他的限制是 4096 token,如果是寫滿字的 pdf,大概就是一頁半,而且理解能力較差。 GPT-4 的優點是理解能力強,但它的速度慢,如果閱讀長一點的文章,甚至會花到 2 分鐘以上。試想,你叫 AI 幫你摘要一篇文章,結果在那邊乾等 2 分鐘,顯然並不是很愉快的閱讀體驗。更別說 GPT-4 目前價格是 GPT-3.5 的 15 倍。就算你有錢有閒,基本的 GPT-4 token 上限是 8k (三頁 pdf),更貴的可以到 32k (12 頁 pdf),針對真的需要摘要的大量內容,這都是杯水車薪。 所以,針對超過字數限制的文件,有哪些摘要方法呢? 如何摘要大量內容 為了解決字數上限的問題,網路上有各式各樣的應對方法,這邊是我目前看到的幾種: 只拿開頭 有一款很紅的瀏覽器擴充功能——「YouTube & Article Summary powered by ChatGPT」,之前叫做「YouTube Summary with ChatGPT」,就是用這個方法。...

May 6, 2023 · 1 min

多數專家可以被 AI 取代,這攸關企業存亡,但你不用擔心失業

昨天我的 Facebook 動態 提到我對近期 AI 發展的焦慮,也讓我發現,很多人跟我一樣,因為近期 ChatGPT 的興起而相同感到焦慮。 然而,有些擔心我覺得還太早了,這些擔心並不必要。這篇文章我會分享我目前的一些想法,以及和他人觀點不同的地方。 幾個重點: AI 不會取代人類,AI 也不會讓你沒有工作,不管你是什麼行業,都不用因為未來可能沒工作而焦慮 對許多企業來說,這會是一場浩劫。不使用 AI 技術的企業,在未來可能跟現在不會使用網路的企業一樣失去競爭力 ChatGPT 不是重點,現在就算沒有 ChatGPT 或任何類似的 AI,也不會改變任何事 AI 在未來會對商業世界產生巨大影響,除了它能夠把事情做的夠好,更大的原因是它變得超級便宜,而且任何開發者都超級容易客製化使用 ChatGPT 對這世界帶來最大的影響,是讓大家開始發現 AI 能做多好,多快,多便宜 真正要緊張的不是 ChatGPT,而是其他 AI 技術的低成本和普及化 ChatGPT 這種連續對話式的 AI 不是殺手級應用 ChatGPT 出來的時候我不緊張,因為這種對話不是好的應用。 為什麼? 每個人會同時扮演許多角色,例如一個人會同時扮演著一位母親,一個工程師,一個和朋友相處的人,一個孝順的女兒。 而每一個角色,其實要做的事都差不多。這位母親和那位母親要做的事雷同,這個工程師跟那個工程師要做的事也差不多。處理這些任務所需要問的問題和資訊,其實也都大同小異。 在這種情況下,對於不同情境和任務,就會出現許多不同產品來滿足使用者的需求。 簡單來說,知道你要什麼,如果還要你輸入指令詢問,那就太麻煩了。真正好的應用,應該是直接提供你需要的資訊,甚至是直接幫你做好。 另外,問一個問題,給一個回答,這是之前 GPT-3 就做很好的事。ChatGPT 的創新在於可以連續對話。但如果一個問題需要連續對話好幾次才能拿到答案,那也還是太花時間了。 換另一種角度,站在使用者能力的觀點,其實大眾根本就不知道什麼是好的問題。大眾只會提出痛點和需求,解決方案一向都是由創新者所提出的。 綜合以上兩點,對於 ChatGPT,我一開始只把它當作比 GPT-3 Playground 更好一點的介面,並沒有覺得他會帶來多大的衝擊。 就算是開發 ChatGPT 的公司——OpenAI 也是如此。ChatGPT 一開始的定位根本不是一個商業化的產品,它只是一個 demo,告訴大家現在可以做到連續對話了。這跟 GPT-3 Playground 的 demo 相同,它最初根本沒有想到自己會變成一個產品。是後來爆紅,才將它獨立變成一個商品。...

March 5, 2023 · 2 min