สอน AI ให้จำเก่ง ไม่ต้องเริ่มใหม่ทุกแชต transcript

การทำงานกับ Coding Agent นะครับมี เรื่องที่น่าหงุดหงิดที่สุดก็คือการที่ AI เนี่ยมันไม่มีความทรงจำเราออกแบบระบบมา แล้วนะครับเราคุยกับมันแล้วว่าโปรแกรมของ เราเนี่ยรันยังไงนะพอเริ่ม sess ใหม่นะ ครับบางทีมันก็รันคำสั่งผิดอีกและเราต้อง มานั่งบอกมันใหม่อีกรอบนะครับคือถ้ามัน เป็นการทำงานกับคนจริงๆเนี่ยแล้วต้องมา นั่งบอกใหม่ทุกวันตอนเช้าเนี่ยว่าแบบ เมื่อวานคุยอะไรกันไปเนี่ยคนนั้นก็คง เพิ่มทีมที่ไม่ค่อยดีเท่าไหร่ใช่มั้ยครับ ซึ่งการทำงานกับ AI โดยไม่มี memory layer อ่ะมันจะเป็นแบบนี้ 100% เลยครับ หลายๆคนที่เจอปัญหานะครับก็พยายามจะออก แบบ Memmory Layer มาใช้ที่แพร่หลายเลย เนี่ยก็คือการนำเวกเตอร์ Database ที่เคย ทำในช่วงที่ RC มันบูมๆนะครับเอามาปลั๊ก เป็น memmory ซะเลยซึ่งวันนี้ครับผมจะมา เล่าให้ฟังว่าทำไมการใช้ vector database เนี่ยมันถึงเป็นท่าที่ไม่ค่อยดีสำหรับใน การทำ memory นะครับแล้วตอนเนี้ย state of the art ของการทำ memmory เนี่ยเขา ทำท่าไหนกันสวัสดีครับผมทำ textex >> [เพลง] >> ช่องที่จะพาคุณไปลงลึกกับทุกเรื่อง text ไม่ว่าจะเป็นซอฟต์แวร์ infrastructure AI machine learning technology ใหม่ๆ ต่างๆ[เพลง]ถ้าคุณเป็นคนที่ชอบเรื่อง Text แบบลึกๆเลยเนี่ยช่องเนี้ยเกิดมาเพื่อคุณ เลยกดไกด Subscribe ช่องผมไว้ด้วยนะครับ แล้วเดี๋ยวเรามาเริ่ม[เพลง] Content ของ วันนี้กันเลยดีกว่า ทำไมเวกเตอร์มันถึงไม่เหมาะกับการเอามาทำ เป็น Memmory Layer นะครับไอ้การทำ Text Search โดยการใช้ vector similarity หรือว่าการเปลี่ยนตัวหนังสือเป็นเวกเตอร์ แล้วมาเทียบกันว่าตัวไหนเหมือนกันเนี่ย มันไม่เหมาะกับการทำ memory มากๆเลยครับ เพราะว่าความคล้ายกันในมุมมองของเวกเตอร์ เนี่ยที่มันมีค่าใกล้เคียงกันน่ะมันไม่ เหมือนกับการ recall หรือว่าการที่เราจำ ได้จริงๆว่าเราคุยอะไรกันไปเป๊ะๆนะครับ บางทีไอ้การ look up แบบเนี้ยถ้ารanking ไม่ดีอ่ะมันดึงออกมาได้มั่วเรียงมามั่วนะ ครับทำให้ AI เข้าใจผิดไปเลยก็มีซึ่งความ ทรงจำครับไม่ควรใช้ความคล้ายกับที่เราถาม เนาะแต่ว่าควรใช้ reasoning ในการตัดสิน ใจว่าโดดไหนนะครับคือความทรงจำที่ถูกต้อง ซึ่งเป็นที่มาของpapอที่ชื่อว่า Page Index ครับ Page Index ใช้หลักการนี้ใน การสร้าง RAC นะครับที่ไม่ใช้ vector database และพึ่งการ reasoning ของ model โดยตรงครับซึ่งจริงๆแล้วในโมเดลในปี 2026 เนี่ยมัน reasoning เก่งมากๆนะครับทำให้ ไม่จำเป็นต้องมี vector database มันก็ สามารถค้นหาความทรงจำโดยการค่อยๆไล่ตาม ตรรกะไปได้เนาะทำให้เราไม่ต้องมานั่ง chuning document นะครับไม่ต้องมานั่ง ทำ embeding ไว้เราแค่จดครับจดลงไปแล้วก็ ให้มีเมคนิคในการupลังที่การทำแบบเนี้ย มันกลายเป็นว่าได้ผลลัพธ์ที่ดีกว่ามากๆนะ ครับซึ่งพอ Page Index ถูกเอาไปทดสอบบน Finance Bench ที่เป็น Benchmark ในการ ถามตอบบนเอกสารด้านการเงินนะครับที่ตัว เอกสารเนี่ยมันจะค่อนข้างยาวมากๆและ ต้องการการดึงข้อมูลที่ค่อนข้างแม่นยำ ด้วยว่ามันมาจากหน้าไหนมันมาจากdocumน ส่วนไหนนะครับมันทำได้ถึง 98.7% 7% นะ ครับเทียบกับเวกเตอร์ base rack ธรรมดา ที่ปกติเนี่ยจะทำได้อยู่แค่ใน range ประมาณ 50-80% ซึ่งถือว่ามันดีกว่ากันเยอะมากๆนะครับ ซึ่งหลักการทำงานของ Page Index จริงๆ แล้วก็ไม่ได้ยากครับมันแบ่งออกเป็น 2 ส่วนส่วนแรกก็คือการ Index ซึ่งเป็นการ จัดวางรูปแบบของ memmory นะครับให้อยู่ใน รูปแบบของ Tree หรือว่ากราฟที่ document แต่ละอันเนี่ยจะมีลำดับชั้นนะครับแล้วก็ มีลิงก์ถึง document section ที่เกี่ยวข้องกันโดยตรงซึ่งตัว index เนี่ยก็จะมี summary สั้นๆของโe แต่ละโหดอยู่ด้วยเนาะว่ามันเกี่ยวกับ เรื่องอะไรนะส่วนที่ 2 ครับคือการ retrieve การ retrieve ของ page index นะครับคือการค่อยๆ walk หรือว่าค่อยๆไล่ ตามโหดของไปเรื่อยๆจนเจอ document ที่มี คำตอบของคำถามนั้นๆอยู่ครับแล้วเรากลับมา ที่ memmory เนาะแล้วอันเนี้ยมันเกี่ยว อะไรกับ memmory ใช่มถ้าเราดูดีๆครับ memmory อ่ะมันคือ retrieval step ใน ra นั่นแหละแต่แทนที่เราจะต้องมานั่งเลือกก database นะครับหรือว่าเราจะต้องมานั่ง สร้าง Tree structure เพื่อที่จะมาจัด การ memmory ของเราเนี่ยเราสามารถใช้สิ่ง ที่คอมพิวเตอร์ทุกเครื่องมันมีอยู่แล้ว ได้ครับแล้วมันก็เป็น Tree structure อยู่แล้วด้วยเนาะสิ่งนั้นคือ File System นั่นเองครับเราสามารถมองโฟลเดอร์และไฟล์ เป็นโodeของ Tree ได้นะครับและในแต่ละ ไฟล์เนี่ยเราสามารถใส่ลิงก์ไปถึงไฟล์ถัด ไปหรือแม้กระทั่งสร้างลิงก์ไปหาเนื้อหา ที่อยู่ในศัพท์ Tree อื่นๆได้เนาะมันเลย สามารถทำตัวเป็นทั้งและกราฟให้เราได้เลย โดยที่เราไม่ได้ต้องโปรแกรมอะไรของเราเอง ขึ้นมาเลยครับและด้วยความที่ memmory นะ ครับแต่ละชิ้นน่ะมันไม่ได้ใหญ่แบบ document ที่อยู่ในpapอของ page index เนาะเราสามารถเอาท่าของ page index เนี่ยมาประยุกต์แล้วก็มา optimiz เพื่อ ให้เหมาะกับการใช้งานเป็น memmory ได้ ครับด้วยความที่ content ใน memmory ของ เราเนี่ยเทียบกับเอกสารทางการเงินนะครับ มันน้อยกว่ามากๆมันไม่ได้ใช้ context window เยอะในการประมวลผล 1 memory นะ ครับทำให้เราสามารถ optimiz โดยการให้ agent ของเราเนี่ยplanนการ look up ก่อนได้ครับโดยการโหลด structure ของเรา เข้าไปใน context ทั้งหมดได้เลยหรือแม้ กระทั่งถ้าเกิดว่า memmory เราเยอะมากๆนะ ครับตัว tre เราแบบใหญ่มากมีเป็นหมื่น เป็นแสน memmory เนาะเราสามารถ limit depth ของมันได้ครับเพื่อให้ agent เนี่ยสามารถเห็นภาพคร่าวๆนะว่าความรู้ หรือว่า memmory ของเราเนี่ยมันหน้าตา เป็นประมาณไหนแล้วมันสามารถ up ส่วนไหน ได้เพื่อที่จะตอบคำถามของเรานะครับหลัง จากนั้นครับในสต็ปของการ retrieve นะครับ มันก็จะง่ายและเพราะว่า Tooling ของเรา ที่ implement การ look up เนี่ยก็จะ implement แค่ไฟล์ read จาก treep part ที่ agent plan มาตอนแรกนะครับซึ่งง่าย มากก็คือแค่ไปหาไฟล์ว่าไฟล์อยู่โฟลเดอร์ เนี้ยเปิดไฟล์นั้นขึ้นมาอ่านได้เลยนะครับ ซึ่งถ้าจะเอามาปรับเป็นระบบที่ผมออกแบบ ใหม่โดยอ้างอิงจาก Page Index เนี่ยก็ คือเปลี่ยนจาก Node by Node walk นะ ครับแกเป็น 2 step ก็คือ 1 การplanนนะ ครับเป็นการเลือก Trep และ Node ที่ เกี่ยวข้องเนาะซึ่งตัวเนี้ยก็จะอาศัยการ จัดระเบียบหรือว่าตัว index ที่ตัว Page Index ก็มีการทำไว้เหมือนกันนะครับส่วน ที่ 2 ก็คือแทนที่จะต้อง Retrieve นะครับ เราวิสิตเลยก็คือการอ่านรวดเดียวเลยว่ามี โหนดอะไรที่เกี่ยวข้างข้องบ้างนะครับมี 10 โหดเราก็สามารถสปanการอ่าน 10 อัน parallel ได้เพราะว่าเรารู้แล้วว่าแต่ละ โeมันอยู่ directory ไหนนะครับซึ่งจะทำ ให้การ look up เนี่ยเนี่ยเร็วขึ้นมากๆ และ memmory นะครับนอกจากการ recall หรือ ว่าการอ่านกลับมาว่าเราเคยจำอะไรได้แล้ว บ้างเนี่ยเราก็ต้องมีการพูดถึงการจำด้วย เนาะว่าแล้วการจำเนี่ยมันเกิดขึ้นได้ยัง ไงนะครับซึ่งการจำของเราตอนเนี้ยก็จะเป็น แค่การเขียน memmory ลงไปในไฟล์ system ได้เลยแต่มันจะต้องมีแพทเทิร์นนะครับที่ ทำให้เราสามารถเชื่อมโยงความทรงจำแต่ละ ชิ้นเข้าด้วยกันได้ครับซึ่งมันเป็นส่วน สำคัญเลยที่จะทำให้ memmory ของเราเนี่ย มันกลายเป็นกราฟได้เนาะและถ้าเราจะเอาไป ใช้เป็น memmory ของ multiplayer agent นะครับแบบที่ผมเคยเล่าไปในคลิปก่อนเนี่ย ก็ยังจะต้องมีการ handle เรื่องของ concurrent right นะครับว่าจะทำยังไง ให้ agent 1 ตัวที่มันทำงานหลาย session พร้อมๆกันเนี่ยไม่เขียนทับกันเองจน memmory ไฟล์มันนะครับและยิ่งมีคนใช้ เยอะๆนะครับก็ยิ่งจะต้องมี process ในการ reindex หรือบางเจ้าแบบ clause เนี่ยก็ จะใช้ชื่อเท่ๆว่า Dreaming นะครับที่เป็น การจัดการความทรงจำเหมือนกับคนที่จัดการ ความทรงจำตัวเองตอนนอนหลับเนาะอะไรไม่ใช้ นะครับก็ลืมใบประหยัดพื้นที่นะครับหรือ ว่าอะไรที่ใช้ซ้ำบ่อยๆหรือว่าอะไรที่ใช้ ซ้ำกันแล้วมี mmory อยู่หลายโตเนี่ยแล้ว ก็ merge มันเข้าด้วยกันให้เป็น memmory อันเดียวนะครับซึ่งระบบ memory เนี่ยดู เหมือนเผินๆเหมือนจะทำง่ายเนาะแค่เขียน markดาวลงไปในไฟล์แค่นั้นครับแต่จริงๆ แล้วมันเป็นระบบที่ค่อนข้างซับซ้อนพอสม ควรการออกแบบ memmory แบบไม่ใช้ vector database เนี่ยตอนเนี้ยเป็น state of the ของวงการแล้วนะครับด้วยความง่ายใน การ maintain เพราะมันใช้ไฟล์ system ก็ ทำได้เลยความยากของมันเนี่ยคือการทำให้ มัน reliable ครับกับ harness หลายๆตัว ที่ทุกคนใช้งานกันอยู่นี่แหละยิ่งเป็น multiplayer นะครับยิ่งต้องเจอปัญหาที่ เจอปกติเลยในการทำ distributed system ทั่วไปเนาะเวลาต้อง Support concurrent usage เนี่ยปัญหาประเภทนี้มันจะเริ่ม เข้ามาและที่ผมมาเล่าในวันนี้นะครับก็ เพราะว่าผมกำลังทดสอบระบบ multiplayer agent ของผมอยู่ครับและตัว Memmory Layer เนี่ยผมแพนไว้ว่าจะเปิดให้ทุกคน ใช้กันได้พรีฟีเลยใครที่สนใจ Memmory Layer นะครับที่คิดมาแล้วและใช้กับ Harness ได้หลากหลายไม่ยึดติดกับ Provider นะครับสามารถเข้าไปโหลด Binary มาใช้ได้จากลิงก์ agentmem.tumtech.co ได้เลยครับผมทิ้งลิงก์ไว้ให้ใน description ข้างล่างก็จบกันไปแล้วนะ ครับกับคลิป AI Memmory หวังว่าจะได้ เข้าใจเรื่องนี้กันมากขึ้นครับและใคร [เพลง]ที่มีคำถามเกี่ยวกับ Software Engineering นะครับ AI Machine Learning หรือว่าเรื่อง Teex ทั่วๆไป เนี่ย[เพลง]สามารถทิ้งคำถามไว้ข้างล่าง ได้เลยนะครับเอาแบบกิ๊กๆเลยก็ได้เพราะว่า ผมชอบมากแล้วเดี๋ยวผมจะมาหาคำตอบให้ใน คลิปถัด[เพลง]ไปครับสำหรับวันนี้บ๊ายบาย ช่องผมมีระบบ membership แล้วนะครับใคร ที่ชื่นชอบคentสาย text เนของผมแล้วอยาก สนใจจะเลี้ยงเนื้อปิ้งเสียบไม้สเตก[เพลง] ชิ้นโตหรือว่ากิพีemiมหรืออยากจะเลี้ยง วัวผมทั้งตัวเลยก็ได้นะครับใครอยากจะ ซัพพอร์ตช่องผมกดที่ปุ่มจอยใต้คลิปได้เลย นะครับขอบคุณมากครับ