6,000元台のクラウドサーバー用GPU!Nvidia Tesla T10 実機レビュー

Tesla T10 GPU-Z

最近、中国のフリマアプリ「閑魚(Xianyu)」を眺めていたところ、珍しいグラフィックボード「Tesla T10」を偶然見つけました。このプロフェッショナルデータセンター向けGPUは、もともとNVIDIAがクラウドゲームサービス専用に設計した製品で、主にGeForce NOWのクラウドゲームサーバーで使用されていました。現在、これらの退役したグラフィックボードが中古市場に出回っており、中国の閑魚では現在1350人民元(約190ドル)前後で販売されています。価格が安かったため、パフォーマンスを検証するために2枚購入しました。

Kubernetes上でNvidia GPUを利用してLLMチャットボットをデプロイする

在 Kubernetes 上利用 Nvidia GPU 部署 LLM Chatbot

AI技術の急速な発展に伴い、自社システムに大規模言語モデル(LLM)チャットボットを統合したいと考える企業や開発者が増えています。本記事では、Kubernetes環境でNvidia GPUを使用して高性能なLLMチャットボットをデプロイする方法について、必要なドライバやツールのインストールから具体的なデプロイ手順まで、順を追って解説します。

Linux PSI (Pressure Stall Information) 指標の解読と応用

如何監控 container 的 PSI 資訊

はじめに:CPU、メモリ、またはI/Oデバイスでリソース競合が発生すると、ワークロードに遅延のスパイクやスループットの低下が生じ、OOM(メモリ不足)による強制終了のリスクにさらされます。このような競合を正確に測定できない場合、ユーザーはハードウェアリソースを保守的に運用するか、オーバープロビジョニングによる頻繁な中断のリスクを冒すかのどちらかを強いられます。Linuxカーネル4.20以降、PSI(Pressure Stall Information)という情報が追加され、リソース不足がシステム全体のパフォーマンスに与える影響をより正確に把握できるようになりました。本記事では、PSIの概要とその情報の読み解き方について簡単に紹介します。

Charmed Kubernetes with OpenStack Integratorのデプロイ

部署 Charmed Kubernetes with OpenStack Integrator

はじめに Charmed KubernetesはCanonicalが提供するKubernetesのデプロイ手法であり、jujuを使用してKubernetesをさまざまな環境にデプロイすることが可能です。本稿では、Charmed KubernetesをOpenStack上にデプロイする方法と、OpenStack Integratorを活用してOpenStackが提供するPersistent VolumeやLoad BalancerをKubernetesで利用する方法について解説します。

Kubernetesクラスターの迅速なデプロイ:OpenStack上でのkops活用実践ガイド

Auto Draft

Kubernetesには多くのデプロイオプションがありますが、その中でもkopsは使いやすさと統合性の高さで際立っています。本記事ではkopsツールについて詳しく紹介し、実際の操作を通じてOpenStack環境でKubernetesクラスターを迅速に構築する方法を解説します。

Cephに適したSSDの選び方

如何挑選適合 Ceph 的 SSD

SSDの価格低下に伴い、多くの技術愛好家や企業が、より高いパフォーマンスを求めてCephでSSDベースのストレージプールを構築することを検討し始めています。しかし、Cephで優れたパフォーマンスを確保するためには、適切なSSDの選択が極めて重要です。本記事では、Cephに適したSSDの選び方について探究します。

AMD GPUとディープラーニング:実践チュートリアルガイド

AMD GPU 與深度學習:實用教學指南

以前は、AMDのGPUでディープラーニング関連のソフトウェアを実行するのは非常に手間がかかるため、ディープラーニングが必要なユーザーにはNvidiaのグラフィックボードの購入が推奨されるという話をよく耳にしました。しかし、最近LLM(大規模言語モデル)が注目を集めており、多くの研究機関がLLaMAベースのモデルを公開しているため、興味を持ちテストしてみたいと考えました。手元にあるビデオメモリ(VRAM)容量の大きいグラフィックボードはすべてAMD製だったため、これらを使用して実行してみることにしました。

Kubernetes Cluster-APIの紹介

Kubernetes Cluster-API 介紹

Kubernetesがクラウドネイティブの世界で長年発展する中で、kopsやRancherなど、クラスターのライフサイクルを管理するための関連プロジェクトも数多く誕生しました。そんな中、VMwareはKubernetes自体の機能を利用して他のKubernetesクラスターを管理する「Cluster-API」というプロジェクトを立ち上げました。本記事では、このCluster-APIプロジェクトについて簡単に紹介します。