ollama.com Ollamaは、ローカル環境でLLMを実行するためのオープンソースのプラットフォームです。これにより、クラウドに依存せず、自分のコンピュータ上で直接LLMを利用できるようになります。主にLlama2やMistralといったモデルをサポートしており、コマ…

ローカルLLMとは？？と思ったのでまとめ。豪華な自宅サーバを持っている人の趣味なんだろうなぁwって印象だったが実はそんなこともないというのがわかった ローカルLLMとは ローカルLLMとは、ローカル環境で動作する大規模言語モデル（LLM: Large Language M…

GPUがどこで使われているのか微妙に理解してなかったのでそのまとめ記事。LLMの勉強をしていて勢いでローカルLLMやりたくなってGPU買おうと思ったけど思ったより高くてとりあえず色々調べてみるか...となったのが今ここ。売れ筋とか見ても自分の想像してる価…

members08.live.itmedia.co.jp 基調講演という話をもらって登壇してきた。「こんな話をしてほしい」みたいな感じで始まって実際に話す内容を事前に打ち合わせしつつ決めていくというのはこれまでやったことがないので良い機会でした。 speakerdeck.com 内容…

ベクトルデータベースとは ベクトルデータベースは、データをベクトル（多次元の数値データ）として保存・検索・処理するためのデータベースです。特に、近似最近傍探索（Approximate Nearest Neighbor, ANN）に特化しており、高次元空間におけるデータの類…

www.trychroma.com ChromaDBは、ベクトルデータを効率的に保存し、検索するためのオープンソースのベクトルデータベースです。特に、機械学習モデルや自然言語処理（NLP）で生成される高次元ベクトルを扱うために最適化されています。ChromaDBは、ドキュメン…

Embedding（エンベディング）とは、情報をコンパクトな数値ベクトル（多くの場合は高次元ベクトル）に変換する技術を指します。主に機械学習や自然言語処理の分野で使用され、文章や単語、画像、その他のデータを数値の形で表現することで、コンピュータがそ…

最近よくきくRAGがなんなのかよくわかっていないので調べたメモ www.hicareer.jp 最初聞いた時はこっちを思い浮かべたがググっても全く出てこないので取り残されている 目次 目次 RAGとは RAGの仕組み RAGの特徴 メリデメ RAGの利点 RAGの欠点 実際の応用 RA…

www.fujitsu.com PostgreSQLの物理レプリケーションは、データベースの物理的なデータ（つまり、ディスク上のバイナリファイル）を基にデータベース全体を複製し、データベースの可用性やデータの冗長性を確保する方法です。これは、マスターサーバー（プラ…

github.com バグフィックスがメインとProxyモードの古い構文の削除あたり。機能追加が最近見ていても大きいものがない。Proxyモードもついに枯れてきてGAする感じになる流れだろうか？楽しみである。

ローカルのメモがいっぱいになってきたのでブログに転記しておく。 # クラスタ全体の情報を取得 CLUSTER INFO # クラスタ内のすべてのノードのリストを取得 CLUSTER NODES # 新しいノードをクラスタに追加 CLUSTER MEET <ip> <port> # クラスタからノードを削除 CLUSTE</port></ip>…