05:33
マシンの心臓部によると、Stability AI と CarperAI lab の 2 つの大型モデル、FreeWilly 1 と FreeWilly 2 が、3 日前の 22 日に Meta によってリリースされた Llama-2-70b-hf を上回り、HuggingFace の Open LLM リーダーボードのトップに到達することに成功しました。また、FreeWilly 2 は多くのベンチマークで ChatGPT (GPT-3.5) を上回り、GPT-3.5 と実際に競合できる最初のオープンソースの大型モデルとなりましたが、これは Llama 2 にはできなかったことです。 FreeWilly 1 は、オリジナルの LLaMA 65B ベース モデルに基づいて構築されており、標準 Alpaca 形式の新しい合成データセットを使用して、注意深く監視された微調整 (SFT) が行われています。 FreeWilly2 は、最新の LLaMA 2 70B ベーシック モデルをベースにしています。

