سرور گرافیکی

سرور گرافیکی که به آن سرور GPU یا سرور هوش مصنوعی هم می‌گویند، سروری است که علاوه بر پردازنده معمولی، کارت گرافیک قدرتمند دارد. کارت گرافیک هزاران هسته برای پردازش موازی دارد و کارهایی مثل آموزش و اجرای مدل‌های هوش مصنوعی، تولید تصویر، رندر سه‌بعدی و محاسبات علمی را چند برابر سریع‌تر از پردازنده معمولی انجام می‌دهد.

سرورهای گرافیکی ابرنوین، سرورهای اختصاصی Hetzner با کارت‌های NVIDIA RTX PRO نسل Blackwell هستند؛ یعنی کل کارت گرافیک و کل سرور فقط در اختیار شماست، نه سهمی از یک کارت مشترک.

چرا هوش مصنوعی GPU می‌خواهد؟

پردازنده معمولی چند هسته قوی دارد که کارها را یکی‌یکی و سریع انجام می‌دهند. کارت گرافیک هزاران هسته کوچک‌تر دارد که هزاران محاسبه ساده را هم‌زمان انجام می‌دهند؛ و مدل‌های هوش مصنوعی دقیقاً از همین محاسبات موازی، مثل ضرب ماتریس‌های بزرگ، ساخته شده‌اند. برای همین کاری که روی پردازنده ساعت‌ها طول می‌کشد، روی سرور GPU در چند دقیقه تمام می‌شود و پاسخ چت‌بات به‌جای چند ثانیه انتظار، تقریباً بی‌درنگ می‌رسد.

کاربردهای سرور هوش مصنوعی

• اجرای مدل‌های زبانی: راه‌اندازی چت‌بات و دستیار هوشمند روی مدل‌های متن‌باز، بدون ارسال داده به سرویس‌های دیگر.
• تولید تصویر و ویدیو: اجرای مدل‌های تولید تصویر با سرعت بالا.
• آموزش و فاین‌تیون: آموزش مدل روی داده‌های خودتان.
• رندر و پردازش داده: رندر سه‌بعدی، پردازش ویدیو و محاسبات علمی.

تفاوت GEX45 و GEX131 در یک نگاه

حافظه گرافیکی چقدر لازم دارم؟

حافظه گرافیکی (VRAM) مهم‌ترین عدد در انتخاب سرور GPU است، چون تعیین می‌کند چه مدلی روی کارت جا می‌شود. هر چه تعداد پارامترهای مدل بیشتر باشد، حافظه بیشتری لازم دارد. برای اجرای بیشتر مدل‌های زبانی و تصویری متوسط، ۲۴ گیگابایت GEX45 کافی است. برای آموزش مدل یا اجرای مدل‌های بزرگ‌تر، ۹۶ گیگابایت حافظه GEX131 جای بسیار بیشتری می‌دهد. پیش از خرید، نیاز حافظه مدل موردنظرتان را در مستندات آن ببینید.

کل کارت گرافیک برای شما

در بسیاری از سرویس‌ها، کارت گرافیک بین چند کاربر تقسیم می‌شود یا فقط ساعتی در دسترس است. در سرور گرافیکی ابرنوین، کل سرور و کل کارت گرافیک فقط در اختیار شماست؛ مدل همیشه بارگذاری‌شده روی حافظه می‌ماند، منتظر نوبت نمی‌مانید و عملکرد سرور به کار دیگران بستگی ندارد. برای سرویسی که کاربران واقعی هر لحظه از آن استفاده می‌کنند، این پایداری یعنی تجربه‌ای که می‌شود رویش حساب کرد.

نرم‌افزار، CUDA و دسترسی به سرور

هر دو سرور کارت گرافیک NVIDIA با فناوری CUDA دارند و کتابخانه‌هایی مثل PyTorch و TensorFlow روی آن‌ها اجرا می‌شوند. دسترسی کامل root دارید، با IPMI سرور را از راه دور مدیریت می‌کنید و ترافیک با پورت ۱ گیگابیت نامحدود است. IPv4 و IPv6 اختصاصی و محافظت در برابر DDoS هم همراه سرور است. اگر مدل را به‌صورت API در اختیار کاربران می‌گذارید، یک دامنه و گواهی SSL برای آدرس امن آن بگیرید.

چرا مدل را روی سرور خودتان اجرا کنید؟

وقتی مدل هوش مصنوعی را روی سرور گرافیکی خودتان اجرا می‌کنید، داده‌های مشتری و اسناد داخلی سازمان برای پردازش به سرویس دیگری فرستاده نمی‌شوند. محدودیت تعداد درخواست و هزینه به‌ازای هر درخواست هم ندارید و می‌توانید مدل را با داده‌های خودتان فاین‌تیون کنید. برای تیم‌هایی که هر روز با مدل کار می‌کنند، این کنترل کامل اغلب از سرعت و قیمت هم مهم‌تر است.

شروع کار با سرور گرافیکی

پس از تحویل، روی لینوکس با SSH وارد شوید، درایور NVIDIA و CUDA را نصب کنید و با دستور nvidia-smi ببینید کارت شناخته شده است. بعد محیط پایتون و کتابخانه‌هایی مثل PyTorch را نصب کنید یا از ایمیج‌های آماده Docker با پشتیبانی GPU استفاده کنید. اگر مدل را به‌صورت API در اختیار دیگران می‌گذارید، دسترسی به آن را با فایروال و کلید API محدود کنید تا منابع گران سرور صرف درخواست‌های ناخواسته نشود.

اجاره ماهانه سرور گرافیکی یا اجاره ساعتی؟

قیمت روز هر سرور در جدول بالای همین صفحه آمده است. پرداخت ماهانه است و یک هزینه راه‌اندازی یک‌باره هم دارد. چون هزینه این سرورها ارزی است، مبلغ تمدید با تغییر نرخ ارز به‌روز می‌شود. اگر روزانه چند ساعت با مدل کار می‌کنید یا سرویسی دائمی روی آن اجرا می‌کنید، سرور گرافیکی اختصاصی ماهانه معمولاً از اجاره ساعتی به‌صرفه‌تر و قابل پیش‌بینی‌تر است. سرور ظرف ۱ تا ۳ روز کاری تحویل داده می‌شود. طبق قوانین Hetzner، ماینینگ روی این سرورها مجاز نیست.

مدل‌های زبانی روی سرور GPU

اندازه مدل و دقت ذخیره وزن‌ها تعیین می‌کند چقدر حافظه گرافیکی لازم است. با روش‌هایی مثل کوانتیزه کردن، مدل با دقت کمتری ذخیره می‌شود و در حافظه کوچک‌تری جا می‌گیرد؛ پس روی ۲۴ گیگابایت GEX45 هم می‌شود بسیاری از مدل‌های متن‌باز متوسط را با سرعت خوب اجرا کرد. برای مدل‌های بزرگ‌تر، اجرای هم‌زمان چند مدل یا پاسخ دادن به کاربران زیاد در یک لحظه، ۹۶ گیگابایت GEX131 فضای راحت‌تری می‌دهد. یادتان باشد حافظه فقط برای وزن‌های مدل نیست؛ متن طولانی ورودی و تعداد درخواست‌های هم‌زمان هم حافظه مصرف می‌کنند.

امنیت و نگهداری سرور هوش مصنوعی

روی سرور GPU معمولاً داده‌های ارزشمندی نگه داشته می‌شود: داده‌های آموزش، مدل‌های فاین‌تیون‌شده و گاهی اسناد داخلی سازمان. دسترسی SSH را با کلید محدود کنید، پورت‌های سرویس‌های مدل را فقط برای IPهای مطمئن باز بگذارید و از مدل‌ها و داده‌های مهم نسخه‌ای بیرون از سرور نگه دارید. درایورها و کتابخانه‌ها را هم با دقت به‌روز کنید؛ پیش از هر به‌روزرسانی بزرگ، نسخه‌های فعلی را یادداشت کنید تا اگر چیزی ناسازگار شد، بتوانید برگردید.

سرور گرافیکی یا سرور معمولی؟

اگر کار شما به کارت گرافیک نیاز ندارد، مثلاً میزبانی سایت، پایگاه‌داده یا اپلیکیشن معمولی، سرور اختصاصی بدون GPU یا حتی سرور مجازی هزینه بسیار کمتری دارد. برای کاربران داخل ایران، سرور اختصاصی ایران را ببینید.

چک‌لیست اجاره سرور گرافیکی

• می‌خواهید مدل را اجرا کنید یا آموزش دهید؟
• مدل موردنظرتان چقدر حافظه گرافیکی لازم دارد؟
• به ویندوز نیاز دارید؟ فقط GEX45 ویندوز سرور دارد.
• هزینه راه‌اندازی یک‌باره و وابستگی قیمت تمدید به نرخ ارز را در نظر بگیرید.
• داده‌های آموزش و خروجی مدل‌ها را کجا بکاپ می‌گیرید؟

خرید سرور گرافیکی از ابرنوین

از سال ۱۳۹۵ کنار کسب‌وکارهای ایرانی هستیم و امروز بیش از ۱۷ هزار مشتری به ما اعتماد کرده‌اند. سرور گرافیکی ابرنوین یک سرور اختصاصی Hetzner با کارت NVIDIA نسل Blackwell است، با ترافیک نامحدود، دسترسی کامل root و پشتیبانی ۲۴ ساعته فارسی. ایده‌ای که امروز روی هوش مصنوعی دارید، به سخت‌افزاری نیاز دارد که منتظرتان نگذارد؛ سرور مناسبتان را از جدول قیمت‌ها انتخاب کنید یا برای مشاوره رایگان با ما تماس بگیرید.