مِخبارMIKHBAR
الذكاء الاصطناعي

تقنية Kokoro TTS على Amazon SageMaker AI لتقليل زمن الاستجابة

تقدم أمازون ويب سيرفرز دليلاً عملياً لتقليل التأخير الملحوظ في الوكلاء الصوتيين الذكيين من خلال بث الجمل تدريجياً إلى نموذج تحويل النص إلى كلام.

تقنية Kokoro TTS على Amazon SageMaker AI لتقليل زمن الاستجابة

تحديات التأخير الزمني في الوكلاء الصوتيين

تواجه تطبيقات الوكلاء الصوتيين المعتمدة على الذكاء الاصطناعي مشكلة شائعة تتمثل في التأخير الزمني الملحوظ الذي يشعر به المستخدم النهائي. عادةً ما ينتظر النظام توليد الإجابة الكاملة والمكونة من عدة فقرات قبل الشروع في عملية التركيب الصوتي، مما قد يترك المستخدم في حالة انتظار طويلة ودون أي استجابة صوتية فورية. ولمعالجة هذه الفجوة الزمنية، يقدم مقال نُشر مؤخراً على [AWS Machine Learning Blog](https://aws.amazon.com/blogs/machine-learning/stream-low-latency-speech-from-ai-agents-using-kokoro-tts-on-amazon-sagemaker-ai/) طريقة هندسية لتجاوز هذا الانتظار الطويل وتوفير تدفق سلس للأصوات.

بدلاً من الانتظار حتى اكتمال الاستجابة النصية بأكملها، تتيح الطريقة الجديدة بث كل جملة فور إنتاجها بواسطة الوكيل إلى نموذج تحويل متن إلى كلام مستضاف على منصة [Amazon SageMaker AI](https://aws.amazon.com/sagemaker/). يضمن هذا النهج بدء عملية التركيب الصوتي مع الجملة الأولى مباشرة، مما يقلل بشكل كبير من شعور المستخدم بالتأخير والبطء أثناء التفاعل مع النظام.

تقنية Kokoro TTS على Amazon SageMaker AI لتقليل زمن الاستجابة
صورة مرتبطة بالخبر من AWS Machine Learning Blog · المصدر: AWS Machine Learning Blog

دور نموذج Kokoro-82M في خفض التكاليف وتقليل التأخير

يعتمد الحل التقني المقترح على نموذج Kokoro-82M المخصص لتحويل النص إلى كلام، والذي يحتوي على 82 مليون بارامتر فقط. يتيح هذا الحجم الصغير نسبياً تشغيل النموذج بتكلفة منخفضة نسبياً وعلى مثيل معالجة رسومية متوسط الكفاءة، وهو ما يُعد عاملاً حاسماً في التعامل مع الحركة المرورية الحقيقية للوكلاء الصوتيين دون تحمل أعباء مالية باהظة.

يعمل نموذج Kokoro-82M داخل حاوية مخصصة على نقطة نهاية فورية ضمن بيئة [Amazon SageMaker AI](https://aws.amazon.com/sagemaker/)، وبالتحديد على مثيل رسومي من نوع ml.g5.xlarge. توفر هذه الحوية مسارين رئيسيين للاتصال؛ الأول يتعامل مع طلبات الإدخال الكاملة، والثاني يحافظ على جلسة اتصال مفتوحة ومستمرة للرسائل المتبادلة في كلا الاتجاهين.

تقنية Kokoro TTS على Amazon SageMaker AI لتقليل زمن الاستجابة
صورة مرتبطة بالخبر من AWS Machine Learning Blog · المصدر: AWS Machine Learning Blog

متطلبات البنية التحتية وأدوات النشر

يتطلب تطبيق هذه البنية الهندسية توفر حساب على منصة أمازون وبما يتوافق مع إرشادات توثيق [Amazon SageMaker AI real-time inference documentation](https://docs.aws.amazon.com/sagemaker/)، بالإضافة إلى بيئة تشغيل مدعومة من [Amazon Bedrock AgentCore documentation](https://docs.aws.amazon.com/bedrock/). كما تشمل المتطلبات أدوار الأمان وصلاحيات السجل المخصص ومستودعات الحاويات اللازمة لإدارة نقاط النهاية بكفاءة عالية.

تعتمد عملية النشر على أدوات سطر الأوامر ومجموعات البنية التحتية، حيث يمكن للمطورين الاستعانة بـ [AWS Cloud Development Kit (AWS CDK) v2](https://docs.aws.amazon.com/cdk/v2/guide/getting_started.html) لإعداد وتوفير الموارد المطلوبة في الحساب والمنطقة المحددة. إلى جانب ذلك، تُستخدم حزم البرمجيات الحديثة مثل أداة [uv](https://docs.astral.sh/uv/) بجانب لغة بايثون لبناء صور الحاويات وإدارة التبعيات البرمجية بسلاسة.

تقنية Kokoro TTS على Amazon SageMaker AI لتقليل زمن الاستجابة
صورة مرتبطة بالخبر من AWS Machine Learning Blog · المصدر: AWS Machine Learning Blog

خطوات التنفيذ البرمجي والتعامل مع تدفق البيانات

يتضمن الدليل الفني خطوات تفصيلية لمعالجة الأطر البرمجية مثل إطارات اتصالات ويب صوكت، حيث يُطلب من المطورين التعامل بدقة مع نوع إطار البيانات المرسل من نقطة النهاية، والتحقق من استقبال البيانات الثنائية وتفكيكها بشكل صحيح لضمان عدم حدوث أخطاء في التعامل مع النصوص والرسائل.

تعتمد الهندسة المقترحة على الحفاظ على جلسة الاتصال مفتوحة بين الرسائل وعدم إغلاقها فور انتهاء مقطع صوتي واحد، وذلك للاستفادة من البث التدريجي وتفادي تكلفة إعادة الاتصال المتكررة. وللحصول على الشيفرات البرمجية الكاملة وأدوات النشر، يمكن للمطورين زيارة [GitHub repository](https://github.com/aws-samples/sample-kokoro-tts-for-ai-agents) المخصص لهذا النموذج التطبيقي.

تقنية Kokoro TTS على Amazon SageMaker AI لتقليل زمن الاستجابة
صورة مرتبطة بالخبر من AWS Machine Learning Blog · المصدر: AWS Machine Learning Blog

المصادر

تابع التسلسل الزمني

تغطية الكيانات المرتبطة