最近、中国のフリマアプリ「閑魚(Xianyu)」を眺めていたところ、珍しいグラフィックボード「Tesla T10」を偶然見つけました。このプロフェッショナルデータセンター向けGPUは、もともとNVIDIAがクラウドゲームサービス専用に設計した製品で、主にGeForce NOWのクラウドゲームサーバーで使用されていました。現在、これらの退役したグラフィックボードが中古市場に出回っており、中国の閑魚では現在1350人民元(約190ドル)前後で販売されています。価格が安かったため、パフォーマンスを検証するために2枚購入しました。
AristaスイッチへのPrometheus監視システムのデプロイ
概要 本稿では、Aristaスイッチ上でDockerコンテナを使用してnode_exporterおよびsnmp_exporterを実行し、Prometheusを介してスイッチの状態を監視する方法を紹介します。
- クラウド
- ...
Kubernetes上でNvidia GPUを利用してLLMチャットボットをデプロイする
AI技術の急速な発展に伴い、自社システムに大規模言語モデル(LLM)チャットボットを統合したいと考える企業や開発者が増えています。本記事では、Kubernetes環境でNvidia GPUを使用して高性能なLLMチャットボットをデプロイする方法について、必要なドライバやツールのインストールから具体的なデプロイ手順まで、順を追って解説します。
コンテナのPSI情報を監視する方法
はじめに:前回の記事では、PSI(Pressure Stall Information)とシステム全体のPSI情報の監視方法について説明しました。本記事では、個別のコンテナのPSI情報を監視する方法について深く掘り下げます。
Linux PSI (Pressure Stall Information) 指標の解読と応用
はじめに:CPU、メモリ、またはI/Oデバイスでリソース競合が発生すると、ワークロードに遅延のスパイクやスループットの低下が生じ、OOM(メモリ不足)による強制終了のリスクにさらされます。このような競合を正確に測定できない場合、ユーザーはハードウェアリソースを保守的に運用するか、オーバープロビジョニングによる頻繁な中断のリスクを冒すかのどちらかを強いられます。Linuxカーネル4.20以降、PSI(Pressure Stall Information)という情報が追加され、リソース不足がシステム全体のパフォーマンスに与える影響をより正確に把握できるようになりました。本記事では、PSIの概要とその情報の読み解き方について簡単に紹介します。
- クラウド
- ...
Charmed Kubernetes with OpenStack Integratorのデプロイ
はじめに Charmed KubernetesはCanonicalが提供するKubernetesのデプロイ手法であり、jujuを使用してKubernetesをさまざまな環境にデプロイすることが可能です。本稿では、Charmed KubernetesをOpenStack上にデプロイする方法と、OpenStack Integratorを活用してOpenStackが提供するPersistent VolumeやLoad BalancerをKubernetesで利用する方法について解説します。
- クラウド
- ...
Kubernetesクラスターの迅速なデプロイ:OpenStack上でのkops活用実践ガイド
Kubernetesには多くのデプロイオプションがありますが、その中でもkopsは使いやすさと統合性の高さで際立っています。本記事ではkopsツールについて詳しく紹介し、実際の操作を通じてOpenStack環境でKubernetesクラスターを迅速に構築する方法を解説します。
Cephに適したSSDの選び方
SSDの価格低下に伴い、多くの技術愛好家や企業が、より高いパフォーマンスを求めてCephでSSDベースのストレージプールを構築することを検討し始めています。しかし、Cephで優れたパフォーマンスを確保するためには、適切なSSDの選択が極めて重要です。本記事では、Cephに適したSSDの選び方について探究します。
AMD GPUとディープラーニング:実践チュートリアルガイド
以前は、AMDのGPUでディープラーニング関連のソフトウェアを実行するのは非常に手間がかかるため、ディープラーニングが必要なユーザーにはNvidiaのグラフィックボードの購入が推奨されるという話をよく耳にしました。しかし、最近LLM(大規模言語モデル)が注目を集めており、多くの研究機関がLLaMAベースのモデルを公開しているため、興味を持ちテストしてみたいと考えました。手元にあるビデオメモリ(VRAM)容量の大きいグラフィックボードはすべてAMD製だったため、これらを使用して実行してみることにしました。
- クラウド
- ...
Kubernetes Cluster-APIの紹介
Kubernetesがクラウドネイティブの世界で長年発展する中で、kopsやRancherなど、クラスターのライフサイクルを管理するための関連プロジェクトも数多く誕生しました。そんな中、VMwareはKubernetes自体の機能を利用して他のKubernetesクラスターを管理する「Cluster-API」というプロジェクトを立ち上げました。本記事では、このCluster-APIプロジェクトについて簡単に紹介します。

