เรื่องเล่าที่ยากจะเข้าใจเกี่ยวกับ เทคโนโลยีและภัยพิบัติทางสังคม ในอีกไม่กี่ปีนี้

เรื่องนี้จะยาวและซับซ้อนและมันยากมากๆในการที่จะทำให้ผู้คนทั่วไปได้เข้าใจมันได้ แต่ก็จำเป็นต้องเขียนจริง ๆ ไม่สามารถจะวางเฉยได้ และผมคิดว่าถ้าใครอยากรู้ว่าโลกเรากำลังจะเปลี่ยนแปลงไปเจออะไรในอีกไม่กี่ปีข้างหน้านี้ ก็ถือว่าจำเป็นต้องอ่านครับ

อาจต้องค่อย ๆ แกะ ค่อย ๆ ถอดความเข้าใจไปทีละส่วน ผมพยายามจะเขียนให้คนที่ไม่ได้อยู่ในสายเทคโนโลยี คนรุ่นแม่ถึงรุ่นหลานของผมได้เข้าใจได้ง่ายที่สุดด้วย แต่พยายามยังไงก็ยังรู้สึกว่ามันยากอยู่ดี

ผมจิตตก หดหู่ หมดกำลังใจ มึนหัวอย่างหนักที่สุดครั้งหนึ่งในชีวิตกับข้อมูลของเรื่องนี้ กว่าจะฟื้นฟูตัวเองให้ดีขึ้นพอที่จะมาเขียนเรื่องนี้ได้ก็หลายวันมาก

ผมจะเริ่มตรงที่ว่า เนื้อหาใจความของมันคือ

"เรากำลังจะไปเจอกับภัยพิบัติด้านสังคมที่รุนแรงที่สุดครั้งหนึ่งของมนุษยชาติในอีกไม่กี่ปีข้างหน้านี้"

ทั้งหมดนี้ไม่ใช่คำทำนายหรือการวิเคราะห์ เป็นข้อเท็จจริงจากกลุ่มคนในระดับชั้นนำในสายเทคโนโลยี ที่ทำ social media หลาย ๆ ชนิดให้เราใช้อยู่ คนกลุ่มนี้ได้มองเห็นสิ่งที่ไม่ถูกต้องเกี่ยวกับมุมมองด้านจริยธรรมในสิ่งที่พวกเขามีส่วนสร้างมันขึ้นมา ข้อมูลส่วนใหญ่ถอดความมาจากหนังสารคดีชื่อ Social Dilimma และแม้ว่าในช่วงท้ายของหนังจะบอกถึงวิธีป้องกันมัน แต่ส่วนตัวผมมองไม่เห็นทางออกเลย และคิดว่าเราจะต้องเผชิญกับมันในเร็ว ๆ นี้

ต้นตอของสาเหตุเกิดจากอะไร

เกิดจาก social media ทั้งหลายที่เราใช้อยู่ครับ Facebook Twitter Instagram Youtube Google ฯลฯ

ทำไมมันถึงทำให้เกิดภัยพิบัติขึ้นกับสังคมโลกได้ ในเมื่อเราก็แค่เข้าไปดูเรื่องของเพื่อน ๆ ใน Facebook วันละนิดหน่อย หาคลิปสนุก ๆ คลิปความรู้บน Youtube ดูบ้าง เข้าไปแชทไลน์คุยกับครอบครัว ไม่ได้ติดโซเชียลอะไรเลย มีแต่ได้ความรู้ ได้มิตรภาพ ได้ประโยชน์จากข่าวสาร ได้เนื้อหาข้อมูลที่ดีจากผู้คน แล้วมันจะทำให้เกิดภัยพิบัติได้อย่างไร

คำตอบแบบสั้นๆคงไม่สามารถทำได้ แต่เราจะเริ่มขั้นแรกจากการทำความเข้าใจในโมเดลธุรกิจพวกนี้ก่อน

ความสนใจของคุณคือสินค้าของเขา

(เราเป็นสินค้าโดยที่ไม่รู้ตัว)

ทุกชนิดของ social media มีหัวใจเดียวกันคือ ต้องการความสนใจของมนุษย์ให้ใช้งานมันให้บ่อยที่สุดและนานที่สุด ซึ่งมันใช้ ความสนใจของเรา ไปเป็นตัวสินค้าขายให้กับลูกค้าของเขา (ลูกค้าคือคนซื้อโฆษณาทั้งหลาย) แนวความคิดหลักมีง่ายๆเท่านี้ในทุก social media

สาเหตุแห่งภัยคุกคามจะเริ่มก้าวแรกกันตรงนี้ "การแข่งขันเพื่อแย่งชิงความสนใจของคุณ"

ผมอยากให้เห็นภาพของเบื้องหลังการทำงาน แกนหลักในการทำงาน social media จะมีอยู่สองส่วนที่สำคัญคือ นักออกแบบเทคโนโลยี (คน) และก็เอไอ (โค้ด)

นักออกแบบเทคโนโลยี

คนกลุ่มนี้คือคนที่เก่งมากด้านจิตวิทยา (เก่ง หมายถึงโคตรเก่ง คือมีคอร์สที่สอนอย่างเข้มข้นในเรื่องนี้) เพื่อทำงานด้านจิตใต้สำนึกของมนุษย์โดยตรง นักออกแบบเทคโนโลยีจะทำงานกับพฤติกรรมและจิตใต้สำนึกของคุณ .. ระบบแจ้งเตือนจะเป็นแบบไหน ปุ่มแบบไหน ใช้คำแบบไหน ที่ทำให้ผู้คนชอบและรู้สึกอยากกลับมาใช้มันมากขึ้น อยู่กับมันนานขึ้น
ทำไมต้องใช้นิ้วโป้งกดตรงนั้น ใช้นิ้วชี้ลากตรงนี้ ล้วนเป็นการวางแผนทางด้านพฤติกรรมที่มาจากการทำงานกับจิตใต้สำนึกของมนุษย์ทั้งหมด

ตัวอย่างที่ชัดเจนเรื่องหนึ่ง คือการออกแบบ การแท็กชื่อในรูปของ Facebook มีใครโดนแท็กแล้วไม่เปิดไปดูบ้างไหม?

เอไอ Artificial Intelligence

Social media จะมีส่วนทำงานสิ่งหนึ่งที่เรียกว่า อัลกอริธึ่ม (โค้ดที่มีความคิดของตัวเอง) และอัลกอริธึ่มที่เก่งมากขึ้น ซับซ้อนมากขึ้น ทำงานได้ในระดับสูงๆก็จะเรียกว่าเอไอ

นึกภาพแบบง่ายก็ให้มองเอไอเป็นโค้ดที่ซ่อนอยู่หลังหน้าจอ Facebook YouTube ที่เราใช้งานอยู่ก็ได้ครับ (ไม่ใช่หุ่นยนต์ที่จับต้องได้)

วิธีที่เอไอทำงานจะมีการใส่เป้าหมายที่ต้องการให้กับมันเข้าไป เช่น ต้องการให้แข่งเกมส์หมากรุก ใส่กติกาเข้าไปให้มันรู้ เมื่อสั่งการไปแล้วมันก็จะเริ่มทำงานด้วยความไม่รู้แบบเริ่มจากศูนย์ สมมุติถ้าลองเอามาแข่งกับเด็กที่อายุน้อย ๆ มันก็จะแพ้ตลอด แต่มันจะเรียนรู้ว่าจะดีขึ้นในหน่วยเล็กๆถัดไปต้องทำอย่างไรบ้าง แล้วมันก็ทำซ้ำแบบนั้นไปเรื่อยๆเป็นล้านล้านครั้ง จนมันเริ่มกินเบี้ยได้ หนึ่งตัว สองตัว เขยิบความสามารถขึ้นไปเรื่อย ๆ จนเริ่มเอาชนะคนเล่นได้บ้าง และขยับขึ้นไปเรื่อย ๆ อีก จนถึงขั้นสามารถเอาชนะมนุษย์ที่เป็นแชมป์โลกได้

เปลี่ยนจากเกมส์หมากรุกมาเป็นตัวสินค้าที่ธุรกิจเหล่านี้ต้องการนั่นก็คือ "ความสนใจของมนุษย์"
ใส่กติกาให้มันก็คือการใช้งานของคุณกับ social media
ใส่เป้าหมายให้มันไปว่า ทำให้คุณอยู่กับแพลทฟอร์มนั้นให้นานที่สุด กลับมาบ่อยที่สุด
แล้วเอไอก็เริ่มทำงานจากเบี้ยหมากรุกเกมส์แรก..

สิ่งที่น่ากังวลอย่างมากคือ แม้แต่คนที่สร้างมันขึ้นมา พอให้เป้าหมายงานมันออกไปทำแล้ว ก็ไม่มีใครเข้าใจมันได้อีกเลยว่ามันทำงานอย่างไร ใช้วิธีอะไรบ้างเพื่อให้ได้เป้าหมายนั้นมา และไม่สามารถควบคุมวิธีการทำงานของมันได้อีกเลย

เป้าหมายของเอไอคืออะไร คำตอบก็กลับไปเรื่องของ ความสนใจของมนุษย์ เพราะอันนี้คือสินค้าของเขานั่นเอง ทำอย่างไรก็ได้ให้คุณอยู่บนหน้าจอให้ได้นานที่สุดและบ่อยที่สุด และสิ่งที่นักออกแบบเทคโนโลยีและเอไอทำได้ดีคือ การเปลี่ยนพฤติกรรมความสนใจของมนุษย์ครับ

การเสพติด โรคซึมเศร้า และการฆ่าตัวตาย

Social media ทำให้เกิดการก้าวกระโดดแบบสุดขั้วในด้านสังคมของประวัติศาสตร์มนุษย์ เราไม่เคยจำเป็นต้องรู้จักใคร หรือมีปฎิกิริยากับคนอื่นมากขนาดนี้มาก่อน เด็กรุ่นถัดไปจากนี้จะห่วงความคิดของคนอื่นมากกว่าการมองเห็นคุณค่าของตัวเอง ซึ่งก่อนหน้านี้มนุษย์ก็มีเรื่องแบบนี้กันอยู่แล้วในการเกี่ยวข้องกับผู้คนรอบข้าง แต่มันต่างกันที่ปริมาณอันมหาศาลครับ

คนรุ่นใหม่ทั้งโลกได้ถูกปรับพฤติกรรมไปแล้ว

Social media ทำให้ความรู้สึกถึงคุณค่าของตัวเองจะหายไปทีละนิด หลาย ๆ คนทำศัลยกรรมเพื่อให้ตัวเองดูเหมือนรูปเซลฟี่ (ที่แต่งจากแอป) โรคซึมเศร้าเพิ่มขึ้นอย่างมากในคนรุ่นใหม่ ข้อมูลสถิติการฆ่าตัวตายที่สูงขึ้นมากหลังจากโลกมีเทคโนโลยีเหล่านี้ เด็ก ๆ มีทักษะการเผชิญกับปัญหาบนโลกแห่งความเป็นจริงน้อยลง

"เราจัดแสดงภาพชีวิต (บนหน้าจอ) ในเรื่องชีวิตที่ต้องสมบูรณ์แบบ ตามที่ได้รับรู้มา (จากหน้าจอ) เพราะเราจะได้สิ่งตอบแทนเป็นสัญาณระยะสั้นจาก หัวใจ ยอดไลก์ เรานำมันมาปนกับคุณค่า นำมาปนกับความจริง ทั้งที่จริงๆแล้วมันเป็นเรื่องการให้ความนิยมกับตัวเราแบบปลอมๆ เปราะบาง มีระยะเวลาสั้น และยอมรับเถอะว่ามันจะทำให้คุณรู้สึกไร้ค่า ไร้ความหมายมากกว่าก่อนทำมัน มันจะผลักคุณเข้าไปสู่วงจรอุบาทว์ที่คุณจะคิดว่า ฉันต้องทำอะไรต่อ เพราะฉันต้องการความรู้สึกนั้นกลับมาอีก ลองคิดว่ามีคนสองพันล้านคนกำลังรู้สึกแบบนั้น และคนเรามีปฎิกิริยาต่อการรับรู้ของคนอื่นยังไงในตอนนี้ มันเลวร้ายมาก"
Chamath Palihapitiya
Facebook- Former VP of Growth

ทำไมมนุษย์ถึงปรับตัวให้เข้ากับมันไม่ได้

เพราะสมองของมนุษย์ตามมันไม่ทันครับ ด้วยเทคโนโลยีที่มันก้าวกระโดดเป็นล้านล้านเท่าไปแล้วในด้านการประมวลผล ภายในเวลาไม่กี่ปี แบบที่ไม่มีใครเคยคิดถึงได้มาก่อน ในขณะที่สมองของเรายังอยู่ที่เดิมไม่ได้ถูกวิวัฒนาการตาม เทคโนโลยีได้เปลี่ยนวิธีการเชื่อมความสัมพันธ์ระหว่างผู้คนที่มีมาแบบเดิมหลายล้านปี ไปแบบก้าวกระโดดในชั่วพริบตา

อาจจะยังมีคนที่คิดว่าสามารถควบคุมตัวเองได้ เอาชนะการเสพติดมันได้ ไม่ได้สนุกไปกับยอดไลก์ ไม่ชอบโพสท์ ตราบใดที่คุณยังมีตัวตนเปิดใช้แอคเคาท์มันอยู่ ไม่ว่าจะเด็กหรือคนแก่ คุณก็อยู่ในเกมส์นี้ทั้งหมดครับ มันจะรู้จักว่าคุณเป็นคนเก็บตัวไม่ชอบสังคม ชอบเข้าไปแอบส่องดูใครบ้าง หยุดที่รูปไหนนานๆบ้าง ชอบดูคลิปอะไร และมันรู้ว่าคนประเภทเดียวกับคุณ จะมีนิสัยแบบไหน และมีจุดอ่อนที่ตรงไหน

จากความรุนแรงที่ว่ามาทั้งหมดที่จะเกิดกับเด็กๆในยุคถัดไป คนในสายเทคโนโลยีเหล่านี้ ไม่ยอมให้ลูกๆของเขาใช้ social media เลยครับ หมายถึงการห้ามในระดับที่ซีเรียสจริงจัง ถึงแม้ตอนนี้จะมีการกันเรทเนื้อหาแบบ Youtube Kid ที่มี content สำหรับเด็กโดยเฉพาะ แต่คุณต้องไม่ลืมว่าวิธีการทำงานของเอไอเป็นแบบเดียวกันกับที่ใช้เล่นงานความสนใจของผู้ใหญ่ครับ ไม่มีใครอยากให้คนอื่นมาเล่นงานจิตใต้สำนึกของลูกเราแน่นอน

"(ด้านหลังหน้าจอของคุณ) มีวิศวกรในระดับที่เก่งมากๆของโลกพันคน กับซูเปอร์คอมพิวเตอร์ที่เป็นเอไอ เชี่ยวชาญด้านจิตวิทยาของมนุษย์ ฝ่ายนี้มีประวัติข้อมูลของคุณอยู่ทุกอย่าง รู้จักนิสัยจุดอ่อนของคุณทุกอย่าง ในขณะที่คุณไม่รู้จักอีกฝ่ายหนึ่งของจอเลย ซึ่งทั้งสองฝ่ายมีเป้าหมายที่ไม่เหมือนกัน คำถามคือ คุณคิดว่าใครจะชนะ!"
Tristan Harris
Google- Former Design Ethicist
Center for Humane Technology- Co-Founder

การตลาดและทุนนิยมสอดแนม

พฤติกรรมของคุณที่กระทำบนมือถือจะถูกเก็บเป็นข้อมูล (data) ไว้ทุกอย่าง ชอบวีดีโอแบบไหน ชอบอ่านอะไร ชอบไลก์ใคร เดินทางไปไหน ซื้ออะไร ชอบดูรูปใคร นานแค่ไหน ดึกๆชอบทำอะไร ดาต้าจากคนสองพันล้านคน หลั่งไหลเข้าไปเป็นวัตถุดิบให้เอไอใช้ทำงานอย่างไม่มีที่สิ้นสุด พวกเขามีข้อมูลของเรามากยิ่งกว่าที่ใครเคยจะคาดคิดในประวัติศาสตร์มนุษย์

มันจะวิเคราะห์แยกกลุ่มคนแต่ละประเภทแต่ละแบบ แยกออกมาเป็นสินค้าให้ผู้ซื้อโฆษณาได้ประมูลความสนใจของมนุษย์ ถ้าคุณมีเงินที่มากพอ คุณจะซื้อโฆษณาที่ไม่มีความเสี่ยงได้เลย

ทฤษฎีสมคบคิด ข่าวปลอม

มาถึงสิ่งที่น่ากลัวที่สุดอีกอันหนึ่ง ที่สามารถทำให้เกิดความขัดแย้งแบบสุดขั้ว อาจจะเกิดสงครามกลางเมืองในหลาย ๆประเทศที่ผู้คนมีความขัดแย้งด้านความคิด

ตอนนี้ผมจะเปลี่ยนจากคำว่า ความสนใจของคุณ(คือสินค้า) มาเป็น พฤติกรรมด้านความสนใจของคุณที่ค่อยๆถูกเปลี่ยน(คือสินค้า) และความสนใจที่ค่อยๆถูกเปลี่ยนทีละนิด ๆ นี้แหละ มันถูกนำไปสู่ความขัดแย้งทางด้านความเชื่อแบบสุดขั่วได้ด้วยข่าวปลอม

มาถึงตรงนี้เป้าหมายของเอไอมันยังเหมือนเดิมมาตลอดคือ ทำให้คุณอยู่กับมันนานและบ่อยที่สุด หากคุณมีแน้วโน้มว่าจะสนใจหรือจะเชื่อในเรื่องใด และชอบที่จะอยู่กับเนื้อหานั้นนานๆบนหน้าจอ มันจะหามาป้อนให้คุณอย่างไม่อั้น โดยที่มันไม่สามารถรู้ได้เลยว่าอันไหนจริงหรือปลอม ในขณะที่พฤติกรรมของคุณเองจะถูกปรับเปลี่ยนไปทีละนิด ๆ จากมีแนวโน้มจะเชื่อกลายเป็นเชื่อแบบสุดโต่งได้เลย

บนทวิตเตอร์ข่าวปลอมสามารถไปได้เร็วกว่าข่าวจริงหกเท่า และด้วยโมเดลทางธุรกิจด้านการดึงความสนใจนี้ ข่าวปลอมทำเงินได้มากกว่าข่าวจริง

คุณจะเริ่มมีอาการแบบนี้ มองคนที่คิดไม่เหมือนกับคุณคือพวกที่ไม่ยอมอ่านข่าว ไม่ยอมรับรู้ ไม่ยอมรับความจริง วิเคราะห์ไม่เป็น ไม่รู้อย่างที่คุณรู้ โง่กว่าคุณ เป็นพวกคนที่ถูกหลอกด้วยทฤษฏีสมคบคิด คุณเริ่มไม่ไว้ใจและเกลียดอีกฝ่าย จนไม่รับฟังกันอีกต่อไป ซึ่ง... อีกฝ่ายหนึ่งก็คิดแบบเดียวกับคุณแบบนี้เป๊ะเลย

คนเป็นพันล้านคนกำลังถูกเล่นงานจุดอ่อนแบบนี้พร้อมๆกัน

ความรุนแรงในการขัดแย้งด้านความคิดการเมือง ทฤษฏีสมคบคิด การทำโฆณาชวนเชื่อ การแบ่งเขาแบ่งเรา มันทำได้ง่ายและรุนแรงมากด้วยเทคโนโลยีที่เราใช้อยู่โดยใช้ทุนไม่มากเลย
ตัวอย่างที่เห็นชัดเจน รุนแรง และเกิดผลขึ้นมาแล้วใกล้ ๆ บ้านของเรานี่เองคือ การสังหารหมู่ชาวโรฮิงยาที่พม่า เมื่อเร็ว ๆ นี้

และยังเกิดขึ้นในอีกหลายๆกรณี และจะมีมากขึ้นเรื่อย ๆ ไม่เกี่ยวกับเรื่องความฉลาดหรือไม่ฉลาดของผู้คน ไม่เกี่ยวกับประเทศด้อยพัฒนาหรือประเทศพัฒนาแล้ว มันสามารถเกิดได้ทุกที่

การแทรกแทรงการเลือกตั้งในอเมริกาของรัสเซีย น่าจะเป็นเรื่องที่เห็นภาพได้ดีที่สุดเรื่องหนึ่ง

แล้วจะมีวิธีป้องกัน หรือแก้ไขมันอย่างไรได้บ้าง

ในหนังเรื่องนี้บอกวิธีให้อยู่สามสี่อย่าง แต่ใช้คำว่ามันค่อนข้างริบหรี่ อาจต้องพึ่งปาฎิหารย์ แต่เราไม่มีทางเลือกครับ เราต้องทำอะไรสักอย่าง

พวกเขาได้รวมตัวและก่อตั้ง Center for Humane Technology เพื่อส่งข้อมูลนี้ออกสู่ผู้คน พยายามผลักดันให้เกิดกฏหมายควบคุมหรือการเปลี่ยนแปลงนโยบายการเมือง ที่ต้องมาควบคุมโมเดลธุรกิจที่ผิดเพี้ยนเหล่านี้

ในด้านของประเทศไทย การใช้เทคโนโลยีของพวกเราอย่างไม่มีขีดจำกัด ถึงตอนนี้คุณน่าจะพอมองเห็นเค้ารางจากข้อมูลทั้งหมดนี้แล้ว เรามีองค์ประกอบใดบ้างที่พร้อมและรอจะทำให้เกิดภัยพิบัติในสังคมของเรา หรือว่ามันอาจจะไม่เกิดกับเราก็ได้ เพราะเราเป็นคนชาติเดียวที่วิเศษและแข่งแกร่งทางด้านจิตวิทยามากกว่าประเทศอื่น หรือลูก ๆ ของเรามีจิตใจที่แข็งแกร่งกว่า มีก้านสมองที่ดีกว่าเด็ก ๆ ประเทศอื่น

ผมจะจบเรื่องเล่านี้ด้วยคำพูดของ Tristan Harris ครับ

"เรากังวลและคอยระวังเสมอว่าเทคโนโลยีอาจเอาชนะกำลังและภูมิปัญญาของมนุษย์ได้ มันจะถึงจุดที่ข้ามภาวะของความฉลาดกว่ามนุษย์อีกเมื่อไหร่ จะทำงานแทนเราในตอนไหน ซึ่งคงอีกนานมากกว่าจะไปถึงวันนั้น แต่วันนี้เทคโนโลยีก็ได้พิชิตจุดอ่อนของมนุษย์ไปแล้ว ความรู้สึกของการเสพติด การแบ่งขั้ว การสร้างแนวคิดสุดโต่ง การสร้างความรุนแรง การสร้างความทนงตัว นี่คือธรรมชาติที่มนุษย์ไม่อาจต้านทาน และนี่คือการรุกฆาตมวลมนุษยชาติ"
Tristan Harris
Google- Former Design Ethicist
Center for Humane Technology- Co-Founder