![Llama 3.1の使い方やダウンロードの仕方など。](https://igawa.co/wp-content/uploads/2024/07/how-to-use-llama-600x400.jpg)
Contents - 目次
Llama 3.1のモデルが発表。405Bモデルも。
Llama 3.1。 Metaのオープンソース AI。
Llama 3.1の3つのモデル。
オープンソースAIモデル「Llama」の最新モデルが、8B、70B、405Bと一気に登場。
特に405BモデルはLlama史上最大のモデルで、画像生成もできる模様。
参照:Llama 3.1
Llama 3.1のモデル。
Llama 2と同様に、以下の3つのモデルがある。
- 405B: 4050億パラメータ。最も高性能な、最大の基盤モデル。
- 70B: 700億パラメータ。コスト効率の高いモデル。
- 8B: 80億パラメータ。軽量で、高速なモデル。
LLMのパラメータ数の目安。
(※確認できた範囲、またはそれぞれのAIに聞いてみたおおよその数値。)
- GPT-3:175B(1,750億)パラメータ
- ChatGPT 3.5:355B(3,550億)パラメータ
- GPT-4:非公開
- Gemini Nano:3.25B(32.5億)パラメータ
- Gemini Pro、Ultra:非公開
- Grok-1:314B(3,140億)パラメータ
- Claude 3:非公開
マルチモーダルとしてのAI。
Llama3.1の主な機能。
Llama3.1の紹介ページを見ると、プロンプトによる画像生成(Text to Image)や、データ分析の例がある。
画像生成。
画像生成は他の生成AIと同様に、自然言語によるチャット形式のメッセージで、一度に4枚ずつ画像が生成されている。
推論やデータ分析、コーディング。
複雑な推論による画像生成や、ファイルをアップデートしてのデータ分析、コーディングのアシスタント機能などがある。
Llama 3.1とチャットができる、HuggingChat。
Hugging Face(ハギングフェイス)の
HuggingChat(ハギングチャット)。
使い方。
HuggingChatの画面左下の「Models」をクリック。
HuggingChatでは、すでにLlama 3.1の2つのモデルが実装されている。
画面は英語でも、チャットは日本語で可能。ログイン不要で、無料でも使える。
無料の場合は利用制限がある。
(※スクショはダークモード時のもの。)
ModelsからLlama-3.1のモデルを選択。
HuggingChatには現時点、「Llama-3.1-70B」と「Llama-3.1-405B」が用意されている。
70Bか、405Bか、チャットをしてみたい方のモデルをクリックする。
画面下部の入力欄にテキストを入力。
使い方はChatGPTやClaudeなどの他の生成AIと同じ、テキストによるキャッチボール形式。
使っていくうちに、すぐに慣れる。
混み合っているときは反応が遅いこともある。
そのようなときは、しばらく待つか、モデルを変えてみると良いかもしれない。
ログインなしの場合のリミット。
ログインをしない場合はリミットがある。無料プランが用意されているので、もっと使いたい場合はアカウント登録しておくと良いかも。
ブラウザによる日本語訳。
![Llama 3.1の使い方の例。HuggingChatの画面。 Llama 3.1の使い方の例。HuggingChatの画面。](https://igawa.co/wp-content/uploads/2024/07/fc6d5ff3204e00aed2f4e16d61c53e3d.jpg)
HuggingChatでの会話。無料での利用制限について。
Llama 3.1とチャットができる、Replicate。
Meta Llama 3.1 on Replicate
アカウント不要かつ無料で、Llamaとチャットが可能。
モデルの選択。
Chat with Meta Llama 3.1 on Replicate(旧LLaMA2 Chatbot)の場合は、画面上のメニューから、Llama 2やLlama 3のモデルを選択できる。
デフォルトは最新モデルのLlama 3.1 405Bとなっており、無料で使える。
インターフェイスは英語でも、チャットは日本語もOK。
(※スクショはダークモード時のもの。)
Settings – 設定。
画面右側の「Settings」をクリックするとサイドバーが現れ、文字数などの調整ができる。
モデルや文字数の調整などについて。
- Llama Size: サイズが大きいほどスマートになるが、速度は遅くなる。
- System Prompt: プロンプトの先頭に追加され、システムの動作をガイドするのに役立つとのこと。
- Temperature: ランダム性の調整。1以上はランダム。MAXは5。0.75が適切な開始値。
- Max Tokens: チャットの最大文字数。ChatGPT(GPT-3.5)の目安が日本語2,048文字まで。
- Top P: テキストをデコード(解読)するときに、最も可能性の高いトークン(単語や句読点で分けたテキスト)の上位からサンプリングする。MAXは1。
使い方。
Meta Llama 3.1 on Replicateでのチャットの仕方は、ChatGPTやGemini、Copilotなどと同様、画面下の入力欄から始められる。
現在はAPIトークンが必要。GitHubアカウントがあればすぐに取得可能で、初めて利用する場合は無料。
その後は使用した分だけ料金が発生し、クレジットカード情報の入力が必要となります。
参照:Chat with Meta Llama 3.1 on Replicate
APIトークンの取得方法。
Meta Llama 3.1 on Replicateへアクセス。
URL:Chat with Meta Llama 3.1 on Replicate
Sign in with GitHubをクリック。
「Sign in with GitHub」をクリックすると、画面が進む。
GitHubへログイン。
「Authorize replicate」をクリックし、次へ進む。
APIトークンが表示される。
「API tokens」の「Default」に表示されている(一部が伏せ字となっている)文字列をコピーする。
APIトークンを入力。
取得したAPIトークンをペーストすると、すぐにチャットが始められる。
Llama 3.1のダウンロードURL。
Llama 3.1のダウンロード。
Llama 3.1のダウンロードURL。
3つのモデルが下記のMeta社によるLlamaのサイトから、それぞれ簡単にダウンロードできる。
URL: https://llama.meta.com/?ref=upstract.com
ダウンロードの注意点。
ダウンロードされるのはあくまでもコード類であり、アプリではない。(はず。)
実装するためには、Pythonやコマンドプロンプトやターミナル、GitHubなどのプログラム系の知識が必要で、パソコンのスペックも求められる。
Meta AIで試すことができるようだが、日本ではまだ利用することができない。
参照:Meta AI
Llama 3.1はオープンソースのAI。
GitHub上のLlama 3.1。
Llama Models – ラマモデル。
Llama 2、Llama 3、Llama 3.1のモデルが揃っている。
また、利用規約やライセンスも確認できる。
meta-llama/llama-models: Utilities intended for use with Llama models.
Llama as a System – システムとしてのラマ。
システムとしてのLlama。APIについての説明が記載されている。
meta-llama/llama-agentic-system: Agentic components of the Llama Stack APIs
Llama3.1の商用利用と料金について。
基本的には商用利用可、無料で使える。
LlamaはオープンソースのAIなので、基本的には商用利用も可能で、無料で使える。
追加ライセンスが必要な場合も。
Llama 2は、月間ユーザー数が7億人を超えると、追加ライセンスのリクエストが必要だったので、今回のLlama3.1もなんからの例外があるかもしれない。
参照:Llama 2 Community License Agreement – Meta AI
以上、参考になれば幸いです。
※Webデザインは実務数年、職業訓練校講師数年、フリーランス数年、計15年以上のキャリアがありますが、一気にがぁっと書いているので「です・ます調」ではありません。(元々はメモ書きでした。) ※事実や経験、調査や検証を基にしていますが、万一なにかしら不備・不足などがありましたらすみません。お知らせいただければ訂正いたします。 ※写真は主にUnsplashやPixabayのフリー素材を利用させていただいております。その他の写真や動画もフリー素材やパブリックドメイン、もしくは自前のものを使用しております。
AI 関連メモ。
ChatGPT 関連メモ。
- SearchGPT。ChatGPTがAI検索エンジンに。使い方の例と順番待ちへの登録方法。
- GPT-4o miniが登場。ChatGPT無料版はGPT-3.5からバージョンアップ。
- ChatGPT無料ユーザーにもメモリ機能が。記憶や使い方の例。
- iPhoneやiPad、MacでChatGPT(GTP-4o)が。Apple Intelligence。
- 生成AIとWebデザイン、ChatGPTを活用したコーディングに必要なもの。
- ChatGPT最新モデル GPT-4oが無料でも。使える主な機能。
- ChatGPT(GPT-4o)で、PDF要約の精度を検証した結果。
- GPT-4o。ChatGPTと画像見ながら音声で会話?有料でも無料でも。
- ChatGPT無料版でも画像生成が可能に。有料版だけじゃない!?
- ChatGPT(チャットGPT)にアーカイブ機能が。復元も削除も。
- ChatGPT(チャットGPT)を日本語化。日本語設定の方法。
- ChatGPT(チャットGPT)との音声会話と、音声の変更方法。
- ChatGPTアプリのインストールとログイン方法、チャットの使い方。
- ChatGPT(チャットGPT)のスペルチェック、文章校正がむっちゃ楽。
- ChatGPT(チャットGPT)へのログイン方法。ログインできないとき。
- ChatGPTにプラグイン。広がる機能と使い方。最新情報へも。
- ChatGPTがLINEに?「AIチャットくん」の始め方、そして使い方。
- ChatGPTの始め方と使い方と。初心者向けシンプル版。
- ChatGPTはSVGアイコンを作れるのか?
- ChatGPTの文章作成やコーディング、SEO対策は変わるか?
DALL·E 関連メモ。
Sora 関連メモ。
- OpenAI Soraの短編映画。アーティストや映画制作者たち。
- OpenAIのSoraの公開デモから、Soraの仕組みをできるだけシンプルに。
- OpenAIからSora(動画生成AI)が広がる。デモやWebCMから一般公開へ。
Gemini 関連メモ。
- BardからGeminiに。使い方はどう変わる?日本語対応は?
- Bard(Gemini)が絵を描けるように。テキストから画像生成の方法。
- Bard(Gemini)の画像認識の使い方。日本語対応済み、Googleレンズで画像読み取り。
- 最新情報を日本語かつ無料で使いたいときは、GoogleのBard?
- ChatGPTとBardの違い。なぜAIは日本語チャットが苦手なの?
- Bard(Gemini)が日本語対応。ログイン方法や最新情報など、使い方の例。
- BardでGemini。Googleの最新AIを無料で使う方法。
- GoogleのBardは、OpenAIのChatGPTを越えられるだろうか?
Copilot、Bing 関連メモ。
- ChatGPTとCopilotの違い。料金や、できることと、できないこと。
- Copilotとは? GPT-4とDALL·E 3が無料で使える生成AI。
- SkypeのBingチャット。GPT-4を日本語かつ無料で使える。& 注意点。
- BingのGPT-4、チャットの使い方。使えない?(今はまだ。)
- MacでGPT-4(ChatGPT最新版)を使う場合、Edgeが必要なのかも。
Llama 関連メモ。
- Llama 3.1登場。MetaのオープンソースAIとダウンロードサイト。
- Meta Horizon OSとApple Vision Pro。オープンかクローズか。
- Llama 3。無料でオープンソースなMeta AI最新モデル。
- Llama(ラマ)の使い方や日本語は? ダウンロード手順とブラウザ実装サイト。