گفتگوی فنی: استقبال از هوش مصنوعی و ایجاد LLM برای شما


گفتگوی فنی: استقبال از هوش مصنوعی و ایجاد LLM برای شما

توجه داشته باشید: این ویژگی برای اولین بار در 19 دسامبر 2023 منتشر شد.

در رویدادی با عنوان «رونمایی از آینده مدل‌های زبانی بزرگ و هوش مصنوعی مولد» که توسط ایسوس و انویدیا برگزار شد، با آگوست چائو، مهندس ارشد مرکز فناوری شرکت خدمات وب تایوان، و موریس تان، مدیر محصول ملی ایسوس صحبت کردیم تا توضیح دهیم. چگونه آنها آینده هوش مصنوعی مولد و تغییراتی را که برای کسب و کارها و نیروی کار به ارمغان می آورد دیدند.

ما قبلاً در مورد هر دو شرکت صحبت کردیم، زمانی که آنها در مورد ملاحظات و عوارض هنگام استقرار سرور Omniverse به ما گفتند.

این بار در مورد نیاز به داده‌های با کیفیت بالا در مدل زبان گسترده (LLM) مورد استفاده و چگونگی اطمینان از اینکه ارزش واقعی توسط استقرار هوش مصنوعی ارائه می‌شود صحبت کردیم. مهمترین چیز این بود که چگونه بازده سرمایه گذاری یک سرمایه گذاری هوش مصنوعی را در برابر هزینه آن اندازه گیری کنیم.

چگونه تشخیص می دهید که داده های با کیفیت بالا برای LLM خود دارید یا خیر؟ برای شروع پیاده سازی هوش مصنوعی به چه داده هایی نیاز داریم؟ آیا زیرساخت و کیفیت داده را در اختیار داریم؟ آیا اگر مدل من دقت لازم را در تولید به دست نیاورد، عواقب منفی دارد؟

مشاغل می توانند مراجعه و مشاوره کنند دستورالعمل های طراحی TWS LLM هنگام توسعه داده های آنها. هنگام توسعه یک ساختار یا چارچوب داده برای برنامه LLM خود، عامل اصلی به جای مقدار داده برای برنامه شما، مناسب بودن داده ها است. برای کاهش پیامدهای منفی و خطر بالقوه ای که داده ها می توانند بر برنامه شما تأثیر بگذارند، بهتر است یک مشاور LLM واجد شرایط استخدام کنید و همچنین رویکرد RAG (بازیابی نسل افزوده) را برای بهبود تجربه کاربر و قابلیت اطمینان برنامه هوش مصنوعی خود در نظر بگیرید.

موریس تان، مدیر محصول ملی برای سرورها در ایسوس.  منبع تصویر: ایسوس

چگونه تعیین می کنید که کدام مشکلات استقرار هوش مصنوعی برای حل آن در نظر گرفته شده است و سپس چگونه به آن نزدیک می شوید؟ چگونه اندازه گیری می کنید که آیا در نهایت به ارزش کسب و کار می افزاید؟

  اینترنت ماهواره ای هیوز 100 مگابیت بر ثانیه فعال می شود. 4.5 میلیون تومان در ماه

بر اساس بازخوردهای دریافتی از پایگاه متنوعی از کاربران نهایی، بیشتر آنها بر روی استفاده از فناوری هوش مصنوعی مولد برای توسعه محصولات و خدمات جدید متمرکز هستند. کسب‌وکارها امیدوارند که با استفاده از هوش مصنوعی مولد، نه تنها بتوانند فرآیندهای تجاری فعلی خود را تسریع بخشند، بلکه بینش‌های ارزشمندی در مورد موارد جدید نیز کشف کنند.

ما توصیه می‌کنیم با یک شریک راه‌حل‌های هوش مصنوعی قابل اعتماد با تخصص برای استفاده کامل از فناوری هوش مصنوعی مولد و ارائه آموزش، استنباط، تحقیقات مشترک و پیشنهادات طراحی، کار کنید. از آنجایی که چشم انداز فناوری هوش مصنوعی مولد دائما در حال تغییر است، بنابراین بهتر است با یک متخصص قابل اعتماد شریک شوید، این اطمینان حاصل می کند که برنامه هوش مصنوعی مولد شما می تواند با موفقیت برای برآورده ، خواسته های کسب و کار پیاده سازی شود.

وقتی صحبت از استقرار هوش مصنوعی و LLM می شود، آیا بهتر است رویکرد سرور CPU یا GPU را در نظر بگیرید؟ آیا تفاوتی در اینکه LLM خود را در کدام سرورها آموزش می دهید؟ چه زمانی یک شرکت باید بین استقرار راه حل های هوش مصنوعی مولد و غیر مولد در محل کار یکی را انتخاب کند؟

به خصوص برای استقرار هوش مصنوعی، داشتن زیرساخت مجهز به GPU بسیار مهم است اما عامل اصلی توسعه آن نیست. یک مدل اختصاصی LLM که می‌تواند با رشد کسب‌وکار مقیاس‌پذیر باشد، بر انتخاب شتاب‌دهنده فناوری اطلاعات تمرکز دارد. هوش مصنوعی مولد، یک روند اثبات شده، نمی تواند به اندازه کافی با روش های سنتی یادگیری ماشین یا تکیه بر زیرساخت های CPU جایگزین شود.

در او گزارش اخیر در مورد هوش مصنوعی، گروه هوش مصنوعی انسان محور در استنفورد زمینه ای را فراهم کرد. او گزارش می دهد که عملکرد پردازنده گرافیکی “حدود 7000 برابر” از سال 2003 افزایش یافته است و قیمت هر عملکرد “5600 برابر بیشتر” است.

  فریب اپل را نخورید. 8 گیگابایت رم برای M3 MacBook Pro کافی نیست

آگوست چائو، مهندس ارشد مرکز فناوری شرکت خدمات وب تایوان.

آیا حداقل مشخصات مورد نیاز برای استقرار LLM و AI وجود دارد؟ آیا بهتر است سرور محاسباتی را از سرورهای ذخیره سازی برای استقرار LLM و AI جدا کنیم؟

در مورد مشخصات و الزامات سخت افزاری، ملاحظاتی وجود دارد، مانند اندازه داده برای آموزش، استنتاج و همچنین الزامات برنامه LLM.

از منظر مدیریت زیرساخت و تداوم کسب و کار، توصیه می کنیم محاسبات و ذخیره سازی را در سرورهای فیزیکی جداگانه یا حتی در مکان های جداگانه داشته باشید.

هنگامی که با مجموعه داده‌ای شروع می‌کنید که چندان بزرگ و جامع نیست، می‌توانید سرور GPU را به دلایل هزینه و سادگی به عنوان یک سرور ذخیره‌سازی نیز بخواهید. با این حال، همانطور که تجارت شما رشد می کند، اندازه و اهمیت مدل ها و داده های هوش مصنوعی تولیدی شما برای آموزش افزایش می یابد. و مقیاس استنتاج، تقسیم کار به ماشین های فیزیکی تخصصی جداگانه (با استفاده از یک سرور ذخیره سازی اختصاصی) ممکن است راه حلی باشد که ارزش بررسی دارد، زیرا به محافظت از تمام مدل ها و داده های شما که سرور GPU با آنها کار می کند کمک می کند.










اندازه شرکت

ورود

میان رده

بالای خط

مدل

ESC4000A-E11

ESC4000A-E12

ESC8000A-E12

بعد، ابعاد، اندازه

800mm x 440mm x 88.9mm (2U)

800mm x 39.5mm x 88.9mm (2U)

800 × 440 × 174.5 میلی متر (4U)

CPU

AMD EPYC7543 (32C)

AMD EPYC9554 (64C)

AMD EPYC 9654 * 2 عدد (192C)

حافظه

DDR4 3200 32G*8

DDR5 4800 64G*12

DDR5 4800 64G*24

پردازنده گرافیکی

پردازنده گرافیکی NVIDIA RTX A6000 * 2 عدد

NVIDIA RTX 6000 ADA * 4 عدد

NVIDIA L40S * 8 عدد

SSD

NVMe 3.84T*2pcs

NVMe7.68T*2 عدد

NVMe7.68T*2 عدد

هوش مصنوعی چگونه عملکردهای بازاریابی، فروش و خدمات مشتری شرکت را تغییر می دهد؟ چگونه می تواند از هوش مصنوعی برای دسترسی بیشتر شخصی و هدفمند استفاده کند؟

هوش مصنوعی مولد نه تنها بینش‌های مختلفی را از داده‌های بدون ساختار ارائه می‌دهد، بلکه پاسخ‌هایی را نیز متناسب با نیازهای مشتری ارائه می‌دهد. شرکای راه حل هوش مصنوعی چندین نمونه از تنظیم دقیق مدل زبان بزرگ را با موفقیت پیاده سازی کرده اند، دانش خاص دامنه را در خود جای داده اند و آنها را به طور یکپارچه در سیستم های موجود ادغام کرده اند. با چارچوب مورد اعتماد ما برای برنامه‌های هوش مصنوعی مولد، شرکا می‌توانند خدمات شخصی‌سازی شده را ارائه دهند و در نتیجه تجربه مشتری برتر را برای کاربران خود به ارمغان بیاورند.

  شیائومی سخنرانی کوالکام را خراب کرد تا سری 14 شیائومی را معرفی کند و از اسنپدراگون 8 نسل 3 استفاده کند.

در نهایت، آیا سرورهای مبتنی بر GPU یا CPU برای استقرار هوش مصنوعی مناسب‌تر هستند؟ چگونه از هزینه های عملیاتی استقرار هوش مصنوعی پشتیبانی می کنید؟

اگرچه سرورهای مبتنی بر GPU و CPU دارای شایستگی برای استقرار هوش مصنوعی هستند، GPUها عملکرد عالی را برای وظایف محاسباتی فشرده هوش مصنوعی ارائه می دهند. با این حال، حفظ هزینه ها شامل ترکیبی از بهینه سازی منابع، استفاده از خدمات ابری، انتخاب سخت افزار مقرون به صرفه، بهینه سازی الگوریتم و شیوه های مدیریت موثر برای اطمینان از بهترین تعادل بین عملکرد و هزینه ها است.

چگونه می‌توانیم هزینه هوش مصنوعی و بازگشت سرمایه این سرمایه‌گذاری‌ها را اندازه‌گیری کنیم؟

برای اندازه‌گیری هزینه پیاده‌سازی هوش مصنوعی و برآورد بازده سرمایه‌گذاری این سرمایه‌گذاری‌ها، یک رویکرد ارزیابی جامع ضروری است. این شامل ارزیابی هزینه‌های مختلف مربوط به پذیرش هوش مصنوعی است که شامل سخت‌افزار، جذب استعداد، جمع‌آوری داده، هزینه‌های توسعه و هزینه‌های عملیاتی مداوم می‌شود. به طور همزمان، محاسبه بازگشت سرمایه (ROI) شامل بررسی تولید درآمد بالقوه، صرفه جویی در هزینه و بهبود کارایی منتسب به ادغام هوش مصنوعی است.

در چارچوب رویکرد تحول آفرین ما، شناخت فرصت های فعلی در چشم انداز کسب و کار در حال تحول ضروری است. در حالی که منتظر ماندن برای مشاهده و تأیید تغییرات پارادایم گزارش شده در صنایع مرتبط است، اما خطر ذاتی عقب ماندن در بازار رقابتی نیز وجود دارد.

بنابراین، یک پیشنهاد راهبردی شروع و شروع ارزیابی پذیرش هوش مصنوعی مولد با تمام مراحل لازم است.

منبع: https://www.hardwarezone.com.sg/feature-embracing-generative-ai-and-getting-llms-work-you