Some parts of this page may be machine-translated.

 

【スピンオフ】アノテーションの生産性の行方を左右するモノ その意外な正体とは? 〜アノテーションにおける集団心理のマネジメント〜

【スピンオフ】アノテーションの生産性の行方を左右するモノ その意外な正体とは? 〜アノテーションにおける集団心理のマネジメント〜



スピンオフブログ企画
――DX時代のAIを支えるアノテーション。そのアナログな現場のリアル
アノテーションの生産性の行方を左右するモノ その意外な正体とは?
〜アノテーションにおける集団心理のマネジメント〜

これまで弊社ではアノテーションやAIに関する様々なブログを発信してきました。そこでは一般的な知識やノウハウを中心にお伝えしてきました。アノテーション作業はその内容を言葉にしてみれば一見簡単なように思えますが、「曖昧性」を多く含んだ「人で行うことが避けられない作業」のため、どうしても人と人の関わりが多くなります。そのため、ある意味泥臭く、巷に溢れるきれいな理屈では済まないことが多く起こり、品質や生産性を確保するためには、実は様々な経験とノウハウが必要になります。

 

そのため、実際のアノテーションの現場で起こる問題やその対応を具体的に知ることが、アノテーションを成功に導くヒントとして役立つことがあると考えています。
弊社の現場では、実際にどんなことが起こって、具体的にどういった対応や対策をしているか。通常のブログとは異なり、スピンオフブログ企画:「DX時代のAIを支えるアノテーション。そのアナログな現場のリアル」と題して、弊社ならではの特徴やこだわりなども含め、リアルな現場の実態をお伝えしたいと思います。

 

>>過去掲載ブログ(一部)

アノテーションを成功に導くコツ7選

教師データとは?AI・機械学習・アノテーションとの関係から作り方まで解説。

「教師データの品質を担保、向上させるには?実践方法を解説!」

目次

1. 生産性に影響する要因

今回はアノテーションの生産性に関するテーマをお届けします。

生産性というと、経営分析等のどの視点で考えるかによって、さまざまな定義がありますが、今回は生産性=純粋な作業効率性や、作業スピードという観点でお話を進めたいと思います。
すでにアノテーションを外注化されているお客様にしてみれば、外注ベンダーがどのようにして生産性を向上させているか等は、作業を発注した後には特に気にかけることもないかもしれません。とはいえ、ベンダーの生産性は、外注化検討時のコストや費用に大きく関わってきますし、ベンダーからの人材を自社に常駐させる場合等は、生産性に目を向けることは特に重要です。

 

では生産性に影響する要因は何でしょうか?大きく5つ考えられます。

 

1. 作業ツール

多くのアノテーションベンダーがツールでの生産性向上などを訴求していることからもわかるように、アノテーションの自動化やチェックの効率化等、それらを考慮したツールを用いることが生産性の向上に寄与します。アノテーションの自動化や、チェックの自動化等も組み込まれたツールであれば、こうした機能を活用することで、さらなる生産性向上に寄与する場合があります。

 

2. 作業マニュアル

作業マニュアルも生産性に大きく影響を与えます。
アノテーターにとってわかりやすい作業マニュアルでなければ、間違いによる差し戻しや、仕様や要件を理解することに時間を取られ生産性が上がりません。また、ただ単にツールを使用するだけでなく、動作や作業が流れに沿ってスムーズに行える作業手順の設定や、それらの作業の流れをマニュアルに記載して作業者にレクチャーすることも大切です。そうした適切な情報が伝わらないと、効率の悪い動作や余計な画面遷移などをして時間をロスすることにつながります。これでは、高機能なツールを使用したとしても生産性は上がりません。

 

3. 追加情報の分散

また、作業者や顧客との質疑応答などで日々増えていくエッジケース等の追加情報の存在も生産性を下げる要因となります。チャットツールなどで質疑を行う場合によくあることですが、過去の情報が埋もれてしまったり、個人チャットなどで完結し、チーム全体に情報が行き渡っていなかったり、情報が分散・散逸してしまうと「こないだの質問の回答ってどこにあったのだろう?」と、探すのに時間を取られてしまいます。 探したい情報がすぐに見つからない。といった問題はマニュアル作成時においても、考慮すべき重要なポイントです。

 

4. アノテーションデータ素材

素材の画質がバラついていたり、素材の取集元が異なる画像等が混在していたりすると、生産性を下げる要因にもなります。とはいえ、AIの学習にはこのようなバリエーションの異なるデータを用意することも必要なので、悩ましい要因です。

 

5. 作業者の習熟度

作業の初期段階では、初めて使うツールの操作に戸惑ってしまうことや、作業マニュアルを参照しながら作業することも多く、質問をする時間も多く取られるので、当然生産性は上がりません。とはいえ、いつまでたっても習熟度が上がらないと、生産性は向上しないので、アノテーターの習熟・理解を早めることが大切です。

 

さて、この5つの要因以外にあまりクローズアップされていない大きな要因があります。それは人の心理に依存する部分です。中でも特にアノテーターの心理状態やアノテーションの判断の迷いが生産性に影響します。心理面では特に、組織やチームの集団心理が大きく生産性に影響を及ぼすことが実際に多くあります。 そこで、先にあげた5つの要因、作業ツール・作業マニュアル・情報の分散・データ素材・作業者の習熟などについては、他のベンダー様のブログやホームページの解説にお任せするとして、アノテーターが判断に迷い立ち止まることや、アノテーションチームの集団心理が生産性に及ぼす影響について弊社で体験してきたことを交えてお話ししていきます。

2. 判断にかかる時間

アノテーション作業の中で大きく時間を占めるものは?と聞かれて何を思い浮かべるでしょうか? 実際に手を動かしている時間、例えば、矩形で画像に囲みを入れている時間、セマンティックセグメンテーションで物体の輪郭をなぞっている時間などがアノテーション作業の大半を占めるのではないか?と考える方も多いかもしれません。もちろん、単純明快なアノテーション(例えば画像系で、シンプルな背景の中のりんごを矩形で囲むなど)であればその通りですが、アノテーション作業そのものが複雑だったり、言語アノテーションなどのように曖昧性が高かったりする場合には、対象をアノテーションするべきか否か、あるいは、どのようにアノテーションするかの判断にかかる時間の割合が特に多くなります。

 

例えば、ChatGPTで出力された文章の良し悪しを判定するアノテーションを考えてみましょう。良さ(悪さ)の度合いを5段階で評価すると指定されたとします。文章の良し悪しはアノテーターの主観によりますし、前に読んだ文章を自分がどう評価したかに左右されることもあるでしょう。「あれ、さっきはランクBにしていた気がするけれど、なんだかCの方が当てはまる気がする…。どうしよう、戻って修正しようかな…。待てよ、こないだのミーティングで、迷ったらエッジケースの場合は、XXの方針でアノテーションしましょう、だったな。やはりこれはCかな…。」など、考え込んでしまい作業する手が止まることは、アノテーション「あるある」です。 このように、判断に迷うことが多くなると、途端に生産性が低下します。詳しくはここでは解説しませんが、それらを解消するためには、生産性の高い作業者やPMが、どういった考え方で、どう判断しているかをレクチャーして実際に見せることで劇的に改善される場合があります。

3. 集団心理が生産性に与える影響

次に心理です。心理とは?そんな雲をつかむようなものが、どう生産性に影響するの?と疑問を持たれる方も多いかもしれませんが、これもアノテーションの現場では結構「あるある」です。アノテーションに限ったことではありませんが、心理状態は生産性を大きく左右します。特に集団心理はチーム全体の生産性パフォーマンスに大きく影響します。「どう頑張っても、1時間でこれくらいしか作業は進まないよね。みんなそうだよね」といった同調がチーム内に伝搬すると、結構取り返しがつきません。笑 …と笑い事ではなく、これがチームのムードメーカーが発する心理状態であったりすると尚更です。そういった空気感が伝搬しないよう、PMが先回りして適切な生産性や作業ペースを設定をするなどして、生産性が下がらないようなマネジメントが必要です。

4. これまでこんなに苦労したのに、いともあっさりパフォーマンス向上!?

ここで、集団心理が生産性に影響するという典型的な例をご紹介します。

とある顧客の案件に対応するために、離れた拠点で2つのチームを立ち上げることになりました。顧客とは作業者一人ひとりとの時給での契約であったため、目標となる生産性が作業者ごとに定められていました。最初に立ち上がったチームは、プロジェクト開始直後から生産性が伸び悩みました。その時のチームの心理状態は、「品質を担保しながら、課せられた生産性をクリアすることは現実的に不可能なのでは?とんでもない高い目標じゃないだろうか。」そんな空気感でした。目標の生産性に達するために、PMがあの手この手を尽くし、3か月かけてようやく何とか目標をクリアできました。

 

次に立ち上がった別のチームでは、目標とする生産性は到達可能だ、という意識を持ってもらうために「最初から他のチームでは目標の生産性をクリアしていますよ」とあらかじめ伝えました。すると、作業開始後、2週間足らずで、品質を確保しながら、目標とする生産性をいとも簡単にクリアしたのです。この時のチームの心理状態は、「すでに立ち上がっているチームで達成できているのだから、我々も慣れれば出来るようになるだろう。」そんな空気感でした。

 

別のプロジェクトでも、同じようなことがありました。こちらもそれぞれ別の拠点で並行して作業を行っていました。同じツールや作業マニュアル、同じ人が最初の作業レクチャーをしたにも関わらず、ひどい時には生産性に40%近くの開きがあったことを覚えています。その際、生産性の良い方のチームの作業を実際に見せて説明しても、「そんなに速く作業できるなんて信じられない。説明している人が特別に速い人なんだろ。」といった現実を受け入れない雰囲気があったことを、鮮明に記憶しています。 ともにチーム全体の集団心理が生産性に大きく影響を及ぼす、ということを深く実感した案件でした。

5. まとめ

冒頭で述べてきたように、やはりアノテーションはまだまだ人手に頼らざるを得ない部分が多くあります。そういった意味でも、こういった集団心理をPMがコントールすることもかなり大切だと感じています。

 

また、案件ごと・チームごとに集団心理の形成のされ方も変わるので、都度工夫をしてアノテーションを進めていく必要があります。きっかけ一つで生産性が伸びたり、あるいは数ヶ月かかったりということを経験することで、成功と失敗を重ねて知恵と知識を蓄積し次に活かす、ということを弊社でも重ねてきました。生産性を上げるために、時にはこうした回り道に向き合い、より良い道を探るべく毎日取り組んでおります。そして、このDX時代を支えるAIのための良い教師データをお客様にお届けしたいと思っております。

 

執筆者:

北田 学(きただ まなぶ)

アノテーショングループ プロジェクトマネジャー

 

弊社アノテーショングループ設立当初より、自然言語処理中心に、大規模案件のチームビルディングやプロジェクトマネジメント、PoC案件のアノテーション仕様策定、スケール化へ向けたコンサルティングまで幅広く担当。
現在は画像動画系、自然言語系アノテーションのプロジェクトマネジャーと並行して、アノテーションセミナー講師、ブログ等のプロモーション活動に従事。



 

 

 

関連ブログ

 

 

人気記事ランキング

お問い合わせ・資料請求

TOP