Some parts of this page may be machine-translated.

 

【スピンオフ】チェックを重ねることでアノテーション品質は向上するか?〜弊社アノテーション現場での品質管理~

【スピンオフ】チェックを重ねることでアノテーション品質は向上するか?〜弊社アノテーション現場での品質管理~





スピンオフブログ企画
――DX時代のAIを支えるアノテーション。そのアナログな現場のリアル
チェックを重ねることでアノテーション品質は向上するか?
〜弊社アノテーション現場での品質管理~

これまで弊社ではアノテーションやAIに関する様々なブログを発信してきました。そこでは一般的な知識やノウハウを中心にお伝えしてきました。アノテーション作業はその内容を言葉にしてみれば一見簡単なように思えますが、「曖昧性」を多く含んだ「人で行うことが避けられない作業」のため、どうしても人と人の関わりが多くなります。そのため、ある意味泥臭く、巷に溢れるきれいな理屈では済まないことが多く起こり、品質や生産性を確保するためには、実は様々な経験とノウハウが必要になります。

 

そのため、実際のアノテーションの現場で起こる問題やその対応を具体的に知ることが、アノテーションを成功に導くヒントとして役立つことがあると考えています。
弊社の現場では、実際にどんなことが起こって、具体的にどういった対応や対策をしているか。通常のブログとは異なり、スピンオフブログ企画:「DX時代のAIを支えるアノテーション。そのアナログな現場のリアル」と題して、弊社ならではの特徴やこだわりなども含め、リアルな現場の実態をお伝えしたいと思います。

 

>>過去掲載ブログ(一部)

アノテーションを成功に導くコツ7選

教師データとは?AI・機械学習・アノテーションとの関係から作り方まで解説。

「教師データの品質を担保、向上させるには?実践方法を解説!」

目次

1. チェックを重ねることでアノテーション品質は向上するか?

今回は、至極当たり前と思われるかもしれませんが、でも実は現場が陥りやすい、深い?テーマをお届けしたいと思います。

 

アノテーションに限らず、さまざまな業界や場所で、ダブルチェックやトリプルチェックで品質の良さを訴求している場面に遭遇しますが、チェックを重ねれば品質は本当に良くなるのでしょうか?サービスを利用する立場からすれば、ひとつの安心の材料になり「この会社は品質がよいのでは?」と思われるかもしれません。チェックを重ねることで、お客様に届ける成果物に限っていえば、品質は良くなることは事実ですが、ただどんなものであれ、求める品質はさまざまです。そのためサービスの利用にあたっては、そこに注意が必要です。

 

アノテーションに限らず、どんな現場でも品質を気にするがあまり、ついついやってしまいがちですが、やはりチェックを重ねれば重ねるほど、それだけコストも上昇し、価格や納期に転嫁され、結果的にお客様が支払うコストに跳ね返ります。

 

言葉や観念の話にはなりますが、品質の定義は「その製品やサービスが使用目的を満たしている程度」とあります。言い換えれば「顧客の満足をどれだけ満たしているかの度合い」ということになります。そのためチェックを重ね、コストに転嫁されると、結果的に顧客満足の低下につながります。結論から言えば、チェックを重ねることによって、狭い意味での品質(成果物の品質)は向上しますが、広い意味での品質=顧客満足を低下させることにつながります。

2. 成果物のみでない品質

「品質」と聞いて、どういったことを思い浮かべるでしょうか?一口に品質が良いと言っても、教師データなどの成果物の品質のみでなく、そこにはさまざまな要素が含まれます。価格や納期などを含めたQCDの側面や、それらを実現するマネジメント力、お客様のニーズに答える姿勢や対応力などが含まれ、総合的に判断されるものだと思います。

 

弊社はよくお客様から「アノテーションの品質が良い」とご評価をいただき、お客さまからのリピートが多いことも事実です。ただ、よくよくお話を伺ってみると、成果物=教師データやアノテーションの品質だけでそう言われているわけではない、と感じることが多くあります。お客様から「こちらの要望に柔軟に対応いただけて、ホントに助かりました。」等の意見をいただくことが多く、ここに我々は喜びを感じるのは事実ですが、そういった面でもアノテーションの成果物のみで評価されているわけでない、と思うと同時に、品質とは多面的なものであることを実感させられます。

 

ところで弊社では、特にお客様とのやり取りの品質=マネジメントの品質が重要だと考えています。 アノテーションサービスのポリシーとして、「マジメントホスピタリティ」を掲げています(これは我々の造語ですが…。)お客様に寄り添ってお客様の課題を解決しようという姿勢を大切にしており、これはアノテーションサービスのみならず、弊社の「らしさ」にもなっています。

3. チェックを増やす前にヒューマンサイエンスの現場が考えること

具体的なチェックや作業についての話に戻りますが、チェックという作業は、それ自体、ある意味付加価値を産む作業ではないので、本来必要がなければ、やらないに越したことはありません。ただどうしてもアノテーションは人で行う作業のため、ケアレスミスは発生しますし、また作業者の習熟度によっても、チェックをやめることはできません。そのため、チェックのツール化や自動化、さらには、エラーが発生しづらい作業プロセスの構築、エラーを生み出さない作業者の教育が大切になります。

 

これらにはやはりコストが掛かりますが、いくらチェックの自動化やツール化を図ったとしても、チェックの後に待ち受けている「修正」という作業は、悪く言えばやり直しです。修正にかかる工数のみでなく、それらに付随する準備作業、また情報のやり取りや管理などを含めると、エラーの発生予防にコストをかける方が結果的に低コストで済みます。

 

また品質の面では、ツール化や自動化できるチェックを除き、チェックの対象にエラーが多すぎると、チェッカーの作業リズムや集中力が中断され、検出力が落ちることにもつながり、チェックの効果や効率性が半減します。そのため弊社では、仕様理解の徹底、質疑応答等のミーティングを設けるなど、人の教育を大切にしています。また手順書整備等の事前準備や、エラーの発生を抑制するプロセスの事前検討など、予防活動を重視しています。加えて、作業者が自分のリズムや集中力を維持して作業を行える環境を整え、チェッカーの検出力を維持することも非常に大切だと考えています。

4. 状況や求められる品質に応じた使い分け

とは言いつつも、これまでのブログで繰り返してきたように、アノテーション作業は人で行うことが避けられない作業であるため、どんなに工夫や改善をしても、エラーの発生は避けられません。そのため、むやみにエラーの発生予防を追求し過ぎるのもナンセンスですし、やはりお客様が求める品質レベルや、状況に応じて対応を使い分けなければなりません。

 

例えば、1週間で終わるような期間の短い案件で教育を重視したところで、教育している間に案件は終了しますし、そういった場合は我々もチェックを重視する方向に転換し、さらにはチェックのウェイトや抜き取り頻度も状況に合わせて調整します。また、そもそもお客様によって求める品質レベルもさまざまです。「今はPoCのフェーズなので、とりあえずデータを学習モデルに流し込んでみたい。そのため品質はそこそこで良い。価格重視」など、お客様の求める品質レベルはさまざまなため、それらの状況に応じて適宜対応を変える必要があります。

 

そのためには案件の開始前に、案件や作業の方向性等を決定することが必要となりますが、それを適切に実行するためには、お客様本位で状況に応じて、プロジェクトマネジメントの考え方や目標とする品質やコストに対して柔軟に対応できるPMのマネジメント力、またそれを実現するプロジェクトマネジメントの仕組みや組織、体制、PMの育成が大切になります。

5. お客様からの一言

ある時、継続してお付き合いがあるお客様から依頼が来ました。いつものように見積とアノテーションサンプルを提出したところ「ここまで丁寧にやらなくていい。こちらでもチェックをする予定だし、もっと精度を粗くして、チェックの抜き取り頻度も少なくして価格を調整できないか?」と言われたことがありました。

 

やはり大切なことは、お客様の要求をキチンと理解して、その要求に沿うように目標とする品質、作業やチェックのプロセスを見極めるべき、と改めて痛感させられました。しかし、初めて仕事をするお客様は、商談時にそこまでコミュニーションが円滑に取れるわけではありませんし、商談時点では、お客様の中でもそこまでプロセスが決まっていることも多くありません。そのため弊社の場合、商談の際には、どれくらいのアノテーション精度を求めるか?どれくらいの品質レベルを求めているか?をお伺いすることが多く、また御見積書には、状況に応じて、どれくらいのアノテーション精度か、またどれくらいの頻度でチェックを行うかを記載しております。

6. まとめ

これまで述べてきたことは、弊社の組織や文化に合ったやり方であって、お客様から指摘をいただいたり、お客様の期待に応えることが出来ず、商談での失注を繰り返してきた中で試行錯誤し、品質とコストの両立に真剣に向き合い、改善を重ねてきた結果、お客様最適となるように導き出された一つの解でしかありません。そのため、やり方の一つとしてご参考になれば幸いです。

 

 

執筆者:

杦本 和広

アノテーション部 グループマネージャー

 

・前職Teir1自動車部品メーカーにて、製造ラインの品質設計や品質改善指導を中心に、モデルライン構築のプロジェクトマネジャー、業務効率改善 (リーン改善)コンサルティングチーム等、複数の部門横断プロジェクトを経験。
・現職では、ISO等のマネジメントシステム、ナレッジマネジメント推進等を経て、アノテーション事業の立ち上げ~拡大、アノテーションプロジェクトのマネジメントシステムの構築、改善等のディレクションに従事。
・QC検定1級 一般社団法人 品質管理学会会員



 

 

 

関連ブログ

 

 

人気記事ランキング

お問い合わせ・資料請求

TOP