Daniela Amodei: สุดยอดนักปฏิบัติการแห่งวงการ AI

@ArmanHezarkhani
อังกฤษ1 วันที่ผ่านมา · 12 ก.ค. 2569
134K
102
14
2
238

TL;DR

บทความนี้เจาะลึกบทบาทสำคัญของ Daniela Amodei ในฐานะประธานของ Anthropic โดยอธิบายว่าภูมิหลังด้านมนุษยศาสตร์และการปฏิบัติการของเธอ ช่วยให้บริษัทสามารถขยายตัวได้อย่างรวดเร็วพร้อมไปกับการให้ความสำคัญกับความปลอดภัย

ในบ้านหลังหนึ่งในย่าน Mission District ของซานฟรานซิสโก ลูกชายของช่างฝีมือเครื่องหนังชาวทัสคานีและผู้จัดการโครงการห้องสมุดที่เกิดในชิคาโกกำลังเรียนแคลคูลัสตั้งแต่สมัยมัธยมต้น น้องสาวของเขาซึ่งอายุน้อยกว่าสี่ปีกำลังอ่านนิยายและฝึกเล่นฟลุต "เขาฉลาดมาก" Daniela Amodei กล่าวถึงพี่ชายของเธอ Dario "จริงๆ แล้วฉันชอบอ่านหนังสือและศิลปะมากกว่า เราก็เลยแทบจะเป็นส่วนเติมเต็มที่สมบูรณ์แบบของกันและกัน" เขาสอนเธอขับรถ

วงการ AI รู้จักพี่ชายคนนี้ดี: Dario Amodei ซีอีโอของ Anthropic ชายผู้เขียนเรียงความยาวนับหมื่นคำเกี่ยวกับเครื่องจักรแห่งความกรุณา แต่มันรู้เกี่ยวกับการจัดการที่ทำให้เขาเป็นไปได้น้อยมาก ที่ Anthropic ซึ่งเป็นบริษัทที่ยื่นขอเข้าตลาดหลักทรัพย์ด้วยมูลค่าเกือบล้านล้านดอลลาร์ Dario มีผู้ใต้บังคับบัญชาโดยตรงเพียงคนเดียวคือหัวหน้าคณะทำงานของเขา คนอื่นๆ ทั้งหมดหลายพันคน รายงานตรงต่อ Daniela

"มันช่วยให้เป็นอิสระอย่างเหลือเชื่อ" Dario กล่าว "มันทำให้ฉันทำทุกอย่างที่ทำได้ง่ายขึ้นมาก เพราะเธอเป็นคนทำงานทั้งหมด"

ผู้มีวิสัยทัศน์ต้องพึ่งพาผู้ปฏิบัติการ และผู้ปฏิบัติการที่สำคัญที่สุดในวงการ AI คือคนที่เรียนเอกวรรณกรรม การมีส่วนร่วมของเธอคือการเดิมพันที่ทั้งวงการกำลังทดสอบ: ความปลอดภัยและธุรกิจไม่ใช่สิ่งตรงข้ามกัน บริษัทที่ยึดทั้งสองอย่างไว้พร้อมกันจะครองตลาด

1. ยารักษาที่มา晚了

Riccardo Amodei ช่างฝีมือเครื่องหนัง มาจาก Massa Marittima เมืองเล็กๆ บนเนินเขาในแคว้นทัสคานี เขาป่วยเรื้อรังในช่วงวัยเด็กของลูกๆ และเสียชีวิตในปี 2006 ซึ่งเป็นปีที่ Daniela เรียนจบมัธยมปลาย จากนั้นก็มีรายละเอียดที่กำหนดทุกอย่างที่ตามมา ภายในไม่กี่ปีหลังจากที่เขาเสียชีวิต การแพทย์ก้าวหน้า โรคที่คร่าชีวิตเขาเปลี่ยนจากอัตราการเสียชีวิตประมาณครึ่งหนึ่งเป็นเกือบจะรักษาให้หายขาดได้ เขาพลาดยารักษาไปเพียงแค่ระยะเวลาของวงจรการวิจัยหนึ่งรอบ

ครอบครัวหนึ่งสามารถเรียนรู้บทเรียนสองข้อจากเรื่องนี้ และพี่น้อง Amodei ก็เรียนรู้ทั้งสองข้อ ความช้าฆ่าคน และความประมาทก็ฆ่าคนเช่นกัน แต่ในรูปแบบที่แตกต่างกัน ความเร่งด่วนและความระมัดระวัง พร้อมกันทั้งสองอย่าง เป็นมรดกชิ้นเดียว

ภารกิจในเวอร์ชันของ Daniela ออกมาในแนวมนุษยนิยม "ฉันเป็นคนที่ค่อนข้างหมกมุ่นอยู่กับการพยายามทำความดีให้มากที่สุดเท่าที่ฉันจะทำได้" เธอกล่าว "เมื่อพิจารณาจากข้อจำกัดของทักษะที่ฉันมี" ทักษะของเธอไม่ได้指向คณิตศาสตร์ เธอเรียนวรรณคดีอังกฤษที่ UC Santa Cruz ด้วยทุนเรียนฟลุตคลาสสิก จากนั้นก็ออกตามหาคานงัดที่ใหญ่ที่สุดที่คนในอุดมคติที่ไม่ใช่สายเทคนิคจะสามารถใช้ได้: งานสาธารณสุขในแอฟริกาตะวันออก งาน NGO ในวอชิงตัน งานปฏิบัติการภาคสนามในแคมเปญเลือกตั้งรัฐสภาของ Matt Cartwright ในเพนซิลเวเนียปี 2012 โต๊ะทำงานบน Capitol Hill ทฤษฎีการเปลี่ยนแปลงของวอชิงตันทำให้เธอไม่ประทับใจนัก — "บดขยี้เป็นเวลา 15 ปี" ตามที่เธอจำบรรยากาศนั้นได้ เธอต้องการเครื่องมือที่เร็วกว่านี้

2. การศึกษาในสถาบัน

ในปี 2013 เธอเข้าร่วมสตาร์ทอัพด้านการชำระเงินชื่อ Stripe ในฐานะพนักงานหมายเลขประมาณสี่สิบกว่าๆ ในตำแหน่งพนักงานสรรหาบุคลากร "ฉันมีโอกาสได้เห็นจริงๆ ว่าการบริหารองค์กรที่ดำเนินงานได้ดีเยี่ยมเป็นอย่างไร" เธอกล่าวในภายหลัง และเธอถือว่ามันเป็นหลักสูตรการศึกษา เธอสรรหาวิศวกร จากนั้นก็เปลี่ยนมาดูแลงานด้านความเสี่ยง ซึ่งเป็นวินัยในการปกป้องบริษัทจากโหมดความล้มเหลวของการเติบโตของตัวเอง การสรรหาและความเสี่ยง: วิธีการขยายขนาดสถาบัน และวิธีการป้องกันไม่ให้มันทำร้ายตัวเอง — นี่คือการฝึกงานที่แม่นยำสำหรับสิ่งที่เกิดขึ้นต่อไป

เธอมีมุกตลกเกี่ยวกับประวัติการทำงานของเธอ "ฉันคิดว่าตัวเองเป็นคนทั่วไป (generalist) จริงๆ" เธอบอกกับผู้ฟังที่ Stanford "ถ้าคุณลองดูประวัติการทำงานของฉัน คุณคงจะแบบ 'ผู้หญิงคนนี้เก่งอะไรกันแน่?'" มีคำตอบอยู่ แม้ว่าเธอจะไม่ยอมให้ก็ตาม: เนื้อเยื่อเชื่อมต่อ — ส่วนหนึ่งของการปฏิวัติทางเทคนิคที่ตัดสินว่ามันจะกลายเป็นสถาบันหรืออุบัติเหตุ

ในปี 2018 เธอตาม Dario ไปที่ OpenAI เธอบริหารทีมวิศวกรรมในยุค GPT-2 กลายเป็น VP of People จากนั้นเป็น VP of Safety and Policy "ฉันคงจะไม่สามารถฝึก GPT-2 หรือ GPT-3 ได้" เธอกล่าว "แต่ฉันนำสิ่งต่างๆ ที่พวกเขาไม่รู้ว่าจะทำอย่างไรมาสู่โต๊ะ"

3. วิ่งไปสู่บางสิ่งบางอย่าง

ในเดือนธันวาคม 2020 เธอและ Dario ลาออก มีคนเดินออกไปทั้งหมดเจ็ดคน คำอธิบายของเธอยังคงเป็นทางการ: "เรากำลังวิ่งไปสู่บางสิ่งบางอย่าง มากกว่าวิ่งหนีจากบางสิ่งบางอย่าง" Jack Clark ผู้ร่วมก่อตั้งพูดตรงไปตรงมามากกว่าเกี่ยวกับชีวิตภายใน OpenAI หลังจากเงินหลายพันล้านจาก Microsoft: "ห้าสิบเปอร์เซ็นต์ของเวลาของเราใช้ไปกับการพยายามโน้มน้าวคนอื่นให้เห็นด้วยกับมุมมองที่เรามี และอีกห้าสิบเปอร์เซ็นต์ใช้ไปกับการทำงาน"

ในเดือนมกราคม 2021 พวกเขาจัดตั้งบริษัทในรูปแบบที่แปลก: บริษัทสาธารณประโยชน์ (public benefit corporation) ซึ่งมีกฎบัตรทางกฎหมายให้ชั่งน้ำหนักผลประโยชน์ของมนุษยชาติเทียบกับผลประโยชน์ของผู้ถือหุ้น โครงสร้างนั้นเป็นวิศวกรรมด้านความปลอดภัยแบบของ Daniela — ไม่ใช่โค้ดสักบรรทัด แต่เป็นกฎหมายสักบรรทัด "เราค่อนข้างได้รับการปกป้องทางกฎหมายจากการฟ้องร้องของผู้ถือหุ้น" เธออธิบาย "ถ้าเราตัดสินใจว่า Claude 7 ยังไม่ปลอดภัยเท่าที่เราต้องการ เราก็จะยังไม่ปล่อยมัน" แม้แต่ชื่อก็เป็นวิทยานิพนธ์: "Anthropic แปลว่า เกี่ยวกับมนุษย์ และเราต้องการให้แน่ใจว่ามนุษย์ยังคงเป็นศูนย์กลางของเรื่องนั้น"

ฉากการก่อตั้งเรียบง่ายแบบยุคโรคระบาด: การประชุมรวมทุกสัปดาห์ที่ Precita Park พนักงานหิ้วเก้าอี้พับมาเอง ลูกชายของเธอ Galileo เกิดในปีเดียวกัน — บริษัทแรกเกิดและทารกแรกเกิดพร้อมกัน สามีของเธอคือ Holden Karnofsky ผู้ร่วมก่อตั้ง GiveWell; การทำสิ่งที่ดีที่สุดนั้นเป็นธุรกิจของครอบครัวโดยประมาณ

4. วัฒนธรรมในฐานะวิศวกรรม

ทีมของ Dario จัดแนวโมเดล (align the models) ข้อมูลเชิงลึกของ Daniela คือต้องมีคนมาจัดแนวบริษัท (align the company) และนี่ก็เป็นปัญหาทางวิศวกรรมเช่นกัน Anthropic มีการสัมภาษณ์เฉพาะด้านวัฒนธรรมสำหรับผู้สมัครทุกคนตั้งแต่วันแรก ค่านิยมที่เขียนไว้ของบริษัทนั้นจงใจให้คมชัด — "ถ้าค่านิยมของคุณไม่สร้างความตึงเครียด มันคงจะจืดชืดเกินไป" เธอกล่าว ผลลัพธ์ ในคำเดียวที่ไม่มีหนังสือบริหารเล่มไหนจะเลือก: "เราเหมือนอูมามิ เรามีรสชาติที่ distinct มาก"

หนึ่งในค่านิยมที่เขียนไว้คือสิ่งที่บอกอะไรได้มาก มันเรียกว่า ถือแสงและเงา (hold light and shade) — ความเชื่อที่ว่าสองสิ่งที่ขัดแย้งกันสามารถเป็นจริงได้พร้อมกัน นั่นคือประโยคที่เป็นศูนย์กลางของเธอ Anthropic เตือนเกี่ยวกับ AI ดังกว่าและขายมันได้มีประสิทธิภาพมากกว่าคู่แข่งส่วนใหญ่ นโยบายการปรับขนาดอย่างรับผิดชอบ (responsible scaling policy) ซึ่งให้คำมั่นล่วงหน้าว่าบริษัทจะหยุดชั่วคราวหากโมเดลของมันข้ามเกณฑ์อันตราย ถูกเสนอต่อวอชิงตันให้เป็นต้นแบบสำหรับกฎระเบียบ — ความระมัดระวัง ที่บรรจุหีบห่อเพื่อการนำไปใช้ ข้างใต้นั้นคือข้ออ้างทางการค้าที่ขัดแย้งกับกระแสหลักของเธอ: "ธุรกิจส่วนใหญ่ไม่ได้มองหาโมเดลที่ไม่ปลอดภัย มันดีต่อธุรกิจจริงๆ ที่จะปลอดภัย" ธนาคาร โรงพยาบาล รัฐบาล — ลูกค้าที่มีอะไรจะเสียมากที่สุด — จะยอมจ่ายพรีเมียมให้กับห้องแล็บที่หมกมุ่นอยู่กับความล้มเหลว ความปลอดภัยไม่ใช่ภาษีของธุรกิจ มันคือคูเมือง

5. ข้อพิสูจน์

เป็นเวลาหลายปีที่นั่นเป็นเพียงทฤษฎี ตอนนี้มีตัวเลขแล้ว รายได้ต่อปีของ Anthropic อยู่ที่ 87 ล้านดอลลาร์ในเดือนมกราคม 2024 ภายในสิ้นปี 2025 มันอยู่ที่ประมาณ 9 พันล้านดอลลาร์; ภายในเดือนพฤษภาคม 2026 อยู่ที่ 47 พันล้านดอลลาร์ — ส่วนใหญ่มาจากลูกค้าธุรกิจมากกว่า 300,000 ราย รวมถึงแปดในสิบของบริษัทที่ใหญ่ที่สุดในอเมริกา Claude Code เอเจนต์เขียนโค้ดของมัน ทำรายได้ต่อปีถึง 1 พันล้านดอลลาร์ภายในหกเดือน ในเดือนพฤษภาคม บริษัทระดมทุนได้ 65 พันล้านดอลลาร์ด้วยมูลค่า 965 พันล้านดอลลาร์; ในเดือนมิถุนายน มันยื่นขอ IPO อยู่ในเส้นทางที่จะกลายเป็นห้องแล็บชั้นแนวหน้าแห่งแรกที่ทำกำไรจากการดำเนินงานรายไตรมาส

คนที่บริหารงานประจำวันของบริษัทซอฟต์แวร์ที่เติบโตเร็วที่สุดในประวัติศาสตร์กล่าวว่า "ฉันอาจจะเป็นผู้นำที่ขี้ระแวงและกลัวอัตราการเติบโตของเรามากที่สุด" การขยายขนาด เธอกล่าว "รู้สึกเหมือนตอนที่คุณวิ่งลงบันไดเร็วมาก คุณคิดมากเกินไปไม่ได้เดี๋ยวจะหกล้ม" แม้แต่กลยุทธ์ด้านการประมวลผลของเธอก็คือความกังวลที่ถูกนำมาใช้เป็นอาวุธ: ซื้อน้อยกว่าที่คุณอาจต้องการ ทำให้ความต้องการมากกว่าอุปทาน ชนะด้วย "ความสามารถสูงสุดต่อเงินที่ใช้ในการประมวลผลหนึ่งดอลลาร์" ปรากฏว่าคนที่กลัวความเร็วมากที่สุดคือคนที่คุณต้องการให้เป็นคนขับพอดี

6. พี่น้องมาก่อนผู้ร่วมก่อตั้ง

วันอาทิตย์ส่วนใหญ่ Dario มาที่บ้านของเธอและพวกเขาเล่นวิดีโอเกมด้วยกัน นิสัยที่ไม่เคยเปลี่ยนตั้งแต่สมัยมัธยมปลาย "ห้ามพูดเรื่องงาน" เธอกล่าว "นี่คือเวลาส่วนตัวของเรา เพราะเราเป็นพี่น้องกันมาก่อนที่เราจะเป็นผู้ร่วมก่อตั้ง" คำแนะนำของเธอต่อทีมผู้ก่อตั้ง: ข้ามโปรเจกต์ทดลองไปเลย ไปเที่ยวพักร้อนด้วยกัน แชร์ห้องโรงแรม "Dario กับฉันทะเลาะกันและกลับมาดีกันมาเกือบ 40 ปีแล้ว" เธอกล่าว "เขาเป็นพี่ชายฉัน และฉันเคยขโมยของเล่นเขา" ความขัดแย้งไม่ใช่ความเสี่ยง ความสามารถที่จะฟื้นตัวจากมันต่างหากคือความเสี่ยง

เมื่อถูกถามว่าเธอจะเรียนอะไรถ้าเริ่มต้นใหม่ เธอบอกว่า วรรณคดีอีกครั้ง "ฉันคิดว่าการศึกษาด้านมนุษยศาสตร์จะสำคัญมากขึ้นกว่าเดิม" เธอให้เหตุผล — เมื่อเครื่องจักรดูดซับงานด้านเทคนิค "สิ่งที่ทำให้เราเป็นมนุษย์จะมีความสำคัญมากขึ้น แทนที่จะสำคัญน้อยลง"

ลองตามเส้นด้ายจาก Mission District ดู มันก็ต่อเนื่องกัน เด็กผู้หญิงคนหนึ่งเติบโตขึ้นมาเป็นส่วนเติมเต็มในครอบครัวที่เต็มซึ่งกันและกัน สูญเสียพ่อไปเพราะยารักษาที่มาสาย และสรุปว่าความเร็วและความระมัดระวังเป็นภาระผูกพันทางศีลธรรมทั้งคู่ AI ส่วนใหญ่เลือกข้าง: เร่งความเร็วหรือระวังตัว อาชีพการงานของเธอคือการปฏิเสธที่จะเลือก — ความโศกเศร้าและความเร่งด่วน การเตือนและการขาย ความกลัวและการขยายขนาด การปฏิเสธนั้นตอนนี้กลายเป็นรายได้ 47 พันล้านดอลลาร์และกฎบัตรทางกฎหมาย และการทดสอบที่แท้จริงจะมาถึงในตลาดหลักทรัพย์ ซึ่งการถือสองสิ่งไว้พร้อมกันนั้นไม่ค่อยได้รับรางวัล คำถามที่วงการชื่นชอบคือโมเดลต่างๆ ทำอะไรได้บ้าง การเดิมพันของ Amodei คืออีกคำถามหนึ่ง — สถาบันแบบไหนที่สร้างมันขึ้นมา — จะเป็นตัวตัดสินว่ายุคนี้จะจบลงอย่างไร การตอบคำถามนั้นคือหน้าที่ของเธอโดยเฉพาะ

แหล่งที่มา

บันทึกในคลิกเดียว

อ่านบทความไวรัลเชิงลึกด้วย AI ใน YouMind

บันทึกแหล่งที่มา ถามคำถามที่ตรงประเด็น สรุปข้อโต้แย้ง และเปลี่ยนบทความไวรัลให้เป็นโน้ตที่นำกลับมาใช้ได้ใน AI เวิร์กสเปซเดียว

สำรวจ YouMind
สำหรับครีเอเตอร์

เปลี่ยน Markdown ของคุณให้เป็นบทความ 𝕏 ที่สะอาดตา

เวลาคุณเผยแพร่งานเขียนยาวของตัวเอง การจัดรูปแบบรูปภาพ ตาราง และบล็อกโค้ดให้เข้ากับ 𝕏 นั้นน่าปวดหัว YouMind เปลี่ยนร่าง Markdown ทั้งฉบับให้เป็นบทความ 𝕏 ที่สะอาดตาและพร้อมโพสต์ทันที

ลอง Markdown เป็น 𝕏

แพตเทิร์นให้ถอดรหัสเพิ่มเติม

บทความไวรัลล่าสุด

สำรวจบทความไวรัลเพิ่มเติม