在過去幾個月中，大型語言模型（LLM）的癌症治療能力有了顯著提升，甚至已經能夠治癒某些過去無法治療的癌症類型，並且正處於開發通用工具來管理或治癒所有癌症的邊緣。然而，AI 公司將治癒癌症作為一項基準的推動，對癌症生物學這門科學以及癌症生物學社群本身是有害的。AI 公司的目標與癌症生物學社群的目標存在嚴重的不一致。我們認為這些問題是更廣泛的「對齊問題」的一部分，這些問題也影響著其他科學與創意專業，以及整個社會。
癌症生物學致力於理解細胞、組織和器官的基本結構與功能，以及這些過程如何被破壞而導致腫瘤和癌症。經過好幾代人的努力，癌症生物學家已經建立了一個龐大且精密的知識體系，包含各種概念、方法、抽象模型及其他工具，用以理解癌症生物學的全貌；而許多現代的療法與治療方式，正是奠基於這些癌症生物學工具之上。
重要的致命性癌症，往往扮演著地標與燈塔的角色，人們可以藉由它們來衡量對這個領域理解的進步。治癒其中一種癌症，通常代表著新的見解與有趣的方法誕生；接著，這些成果會經由癌症生物學家社群，透過漫長而艱辛的實驗、稿件撰寫與提交、同儕審查、修改、發表、研討會、會議以及非正式討論等過程來進行研究。在這個過程的最後，理想上會產生一份適合任何研究生甚至大學生學習的教科書式成果呈現。這些癌症生物學概念中，只有少數能經得起時間的考驗，並在數十年後進一步發展成為人們負擔得起的治療方法。
從許多方面來看，癌症生物學社群的運作方式就像一個縮小版的人類社會。它由一群使用各種不同方法、但擁有共同核心價值的個體所組成。我們這個專業最寶貴的資源是學生和想法，我們會用心培育它們。我們有責任讓它們充分發揮潛力，直到它們能在癌症生物學的世界中獨立發展。對於學生，我們經常建議他們研究某些癌症，其核心目的是培養他們的技能，使他們能夠在研究或其他領域取得進展。而我們的想法，則透過演講、私下討論和仔細的書面報告來傳播，並將它們與前人既有的想法連結起來。這些過程無一不需要時間，並且建立在人際互動的基礎之上。
近幾個月來，AI 在治癒癌症方面的成功，甚至在癌症生物學圈子之外也成為了頭條新聞。但治癒癌症僅僅是實現「概念理解與洞察」這個首要目標的一種工具和代理指標。在 AI 的世界中忘記這一點，可能會讓工具反過來對抗首要目標。事實上，以越來越快的速度大規模生產「無癌」患者，可能會摧毀肥沃的土壤，而不是為新想法注入生機。
通常，這些治療方法會為了幫助瀕危病人而倉促地進入臨床應用，沒有時間進行適當的書面記錄、分離新的方法和想法，以及引用相關的前人研究成果。如同所有創意專業一樣，這引發了嚴重的歸屬與抄襲問題。此外，如果沒有那些願意投入心力、將 AI 構想的療法發展並整合進癌症生物學正典的癌症生物學家，這些療法將永遠無法真正成熟，而癌症生物學家之間至關重要的人類知識傳承鏈條也將斷裂。
我們正在見證一種對智力工作的普遍威脅：AI 使用的結果與其最初目的之間出現了不一致。在許多領域和活動中，多年的傳統訓練主要目的並非產出最終的答案或療法，而是培養理解能力，以及提出新問題和新想法的能力。然而，AI 系統建立在大量前人工作的基礎上，正變得越來越有能力直接產出這類工作的成果，而這些目標便不再一致。癌症生物學社群現在面臨的問題，與其他科學和創意專業所面臨的問題相似，也預示了全人類可能面臨的問題：如何確保，在 AI 改變工作方式的同時，我們不會忘記這些工作最初想要達成的目標——理解與人類智識的滿足——而不是僅僅治癒疾病。
AI 提供了增強和加速真正癌症生物學研究與理解的潛力。作為一個專業，癌症生物學將需要從幾個方面來適應這些變化。然而，這些變化最終是讓這個領域受益，還是產生破壞性的影響，將在很大程度上取決於掌控這項新技術的人類所做的決定。
這些問題必須緊急處理，無論是在癌症生物學社群內部、在開發這些技術的公司裡，還是更廣泛地，在一個將在許多其他形式的智力工作中面臨類似問題的社會中。
