今年早些に Baseten によって設立された研究グループである Base Labs が、Hugging Face および Goodfire と共にオープンモデルのセキュリティに関するパートナーシップを発足したと、TechCrunch AI が報じている。
このイニシアチブの一環として、Base Labs はオープンモデルのトレーニングおよび監視手法を開発し、公開する予定である。利用可能な記述においては、技術、作業スケジュール、および最初の結果についての詳細は明らかにされていない。
編集部コメント
なぜ重要か
このイニシアチブの実用的な意義としては、オープンモデルより体系的な検証を行うための公的な手法が登場する可能性が挙げられる。次に観察可能なシグナルは、手法、結果、または参加者の役割に関する記述の公表となるだろう。 substantial な不確実性が残っている：現在の情報は TechCrunch AI の要約としてのみ提示されており、プログラムの中身を開示していない。