この記事では、PC上でLLM（大規模言語モデル）に接続するアプリケーションを開発する手順を説明しています。
使用するLLMはInstructLabでチューニングされたGraniteモデルで、Podman Desktopを利用して構築します。
アプリケーションはQuarkusを使って開発され、Graniteとの接続にはPodman AI Labを活用します。
まずPodman DesktopにAIの拡張機能をインストールし、Graniteモデルをダウンロード、インストール後に起動します。
モデルへのアクセスはcURLやQuarkusを使用し、実際に質問を投げかけてAIからの応答を受け取ります。
Quarkusアプリケーションとの統合では、Quteを用いた画面作成や、モデルからの応答を処理するコードが紹介されています。
最終的に、アプリを起動して動作確認を行います。