การถอดความ Local Whisper สำหรับ Windows ด้วยการเร่งความเร็ว GPU
VoZii แปลงเสียงเป็นข้อความในเครื่องโดยใช้ Whisper ของ OpenAI ผ่าน whisper.cpp โดยแทรกข้อความที่เคอร์เซอร์ในแอปพลิเคชัน Windows ใด ๆ haZii.org เผยแพร่ยูทิลิตี้ Windows ที่ใส่ใจในความเป็นส่วนตัวนี้ในรูปแบบไฟล์ปฏิบัติการแบบพกพา ฟังก์ชันหลักรวมถึงการเร่งความเร็วด้วย GPU (CUDA และ Vulkan) ปุ่มลัดพูดคุยแบบกดเพื่อพูดทั่วโลก และการประมวลผลหลังจาก Ollama ที่เลือกได้สำหรับไวยากรณ์และการจัดรูปแบบ เครื่องมือนี้เหมาะสำหรับนักเขียนที่ใส่ใจในความเป็นส่วนตัว นักพัฒนา และผู้ใช้ที่มีความต้องการในการเข้าถึงที่ต้องการการประมวลผลโมเดลในเครื่องและการแทรกข้อความโดยตรงมากกว่าบริการคลาวด์.
VoZii ทำอะไรในกระบวนการทำงานบนเดสก์ท็อป?
VoZii รันโมเดล Whisper ในเครื่องผ่าน whisper.cpp และพิมพ์ข้อความที่ถอดความแล้วลงในหน้าต่างที่ใช้งานอยู่ที่ตำแหน่งของเคอร์เซอร์ ดังนั้นข้อความที่ถูกพูดจะปรากฏในโปรแกรมแก้ไข เว็บเบราว์เซอร์ หรือแอปแชทโดยไม่ต้องเปลี่ยนบริบท แอปนี้ถูกส่งมอบในรูปแบบไฟล์ปฏิบัติการ 64 บิตแบบพกพาเดียวและมีปุ่มลัดทั่วโลกในโหมดกดเพื่อพูดหรือโหมดสลับเพื่อควบคุมว่าเมื่อใดที่เสียงจะถูกบันทึก
VoZii มีผลต่อประสิทธิภาพของระบบในระหว่างการถอดความหรือไม่?
แอปนี้สามารถทำงานบนระบบที่ใช้ CPU เท่านั้น แต่ถูกออกแบบมาโดยเฉพาะเพื่อใช้การเร่งความเร็วด้วย GPU ผ่าน CUDA สำหรับ NVIDIA หรือ Vulkan สำหรับ AMD และ Intel ซึ่งช่วยลดความล่าช้าในการถอดความเมื่อเปรียบเทียบกับการประมวลผลด้วย CPU เนื่องจากมันใช้ฮาร์ดแวร์ในเครื่องสำหรับการอนุมานโมเดล ผลกระทบที่วัดได้ขึ้นอยู่กับว่าระบบจะส่งการอนุมานโมเดลไปยัง GPU หรือ CPU; เครื่องที่มี GPU จะเห็นการพิมพ์ข้อความที่เร็วขึ้นเกือบเรียลไทม์
VoZii ปลอดภัยสำหรับเสียงที่ละเอียดอ่อนและเหมาะสมสำหรับกระบวนการทำงานปกติหรือไม่?
VoZii ทำการรู้จำในเครื่องหลังจากการดาวน์โหลดโมเดลเริ่มต้น ดังนั้นไม่มีเสียงใดถูกส่งไปยังเซิร์ฟเวอร์ภายนอกในระหว่างการใช้งานปกติ การรวมเข้ากับ Ollama แบบเลือกได้ทำการประมวลผลหลังจากที่โมเดลในเครื่อง ทำให้ข้อมูลอยู่ในเครื่อง แอปนี้มีการออกแบบแบบพกพาที่หลีกเลี่ยงการเปลี่ยนแปลงการติดตั้งในระบบ ซึ่งช่วยเมื่อคุณต้องการเครื่องมือที่ไม่เขียนรายการถาวรข้ามหลายเครื่อง
เครื่องมือถอดเสียงในท้องถิ่นที่แข็งแกร่งสำหรับผู้ที่มีความคิดทางเทคนิคและมุ่งเน้นความเป็นส่วนตัว
VoZii เหมาะสำหรับผู้ใช้ที่ยอมรับความรับผิดชอบในการจัดการโมเดลในท้องถิ่นและการเร่งความเร็วด้วยฮาร์ดแวร์เพื่อให้ได้การถอดเสียงในอุปกรณ์และความเป็นส่วนตัว คาดว่าจะมีการตั้งค่าเมื่อเปิดใช้งานการเร่งความเร็วด้วย GPU หรือการรวมเข้ากับอินสแตนซ์ Ollama ในท้องถิ่น; ผู้ใช้ที่ชอบบริการถอดเสียงที่ใช้งานง่ายและขับเคลื่อนด้วยคลาวด์อาจพบว่าการแลกเปลี่ยนนี้ไม่เป็นที่พอใจ แนะนำสำหรับผู้ที่ให้ความสำคัญกับการประมวลผลในท้องถิ่นและการแทรกข้อความโดยตรงในเวิร์กโฟลว์เดสก์ท็อป.
