最新記事

ネット

「ネット言論のダークサイド」を計算機で解析する ── データ分析による報道の技術とその再現性 ──

2016年5月10日（火）22時31分
大野圭一朗


著者の性別の判定

　今回、最終的に検証したい仮説が性別に基づくバイアスなので、著者の性別がわかっていないとどうにもなりません。この問題を解決するために彼らが行ったのは、ある意味とても原始的な作業でした。しかし技術的には高度でないにもかかわらず、この類の作業というのがデータ解析を行うときに最も面倒で時間のかかる作業であるケースも非常に多いです。つまり、一定のエラーを含みながらも必要な結果を得られる程度には正確な、形成されたデータを作るという作業です。

gardians09.jpg

名前から性別を判定するワークフロー （Cytoscape 3.3にて作成）


　今回の具体的な作業は上の図のようになります。まず12,000人の著者名を、無償で公開されている男女別の人名リストと比較するスクリプトを実行します。おそらくここではファーストネームの完全一致による単純な判別を行っていると思われます。これにより、11,098人分のデータが男女別に分類され、1,268人が性別不明として残りました。性別不明になる原因は色々と考えられるのですが、そもそも名前がリストにない場合はわかりませんし、名前の英語表記の揺れなども原因になります。例えば、下のスクリーンショットは今回使われた名前のリストからの抜粋ですが、日本人名の「ケンイチ」という名前は、正しく男性名に分類されていますが、表記がKEN'ICHIであるため、KENICHIという表記との単純一致だと取りこぼしてしまいます。このような名前や住所といったものの表記ゆれは厄介な問題で、バラバラにデータベース化された情報を統合する時に様々な問題を引き起こします。

gardians10.png

names.csv. KENという語で検索をかけた例

　さて、この時点で不明の1,268人分のデータの性別を判定するために、今度は以下の人名判定サービスにPerlスクリプト（この場合は、Perlというプログラミング言語で作業工程を記述した小さなプログラムのことです）で送信します:

・genderize.io: Determine the gender of a first name

　このサービスを利用した後の時点で何名ぐらいが性別不明だったかはわかりませんが、なんとか人力で判定、つまり人名辞典やネット検索で人間が一つ一つ判定するのも不可能ではない程度の量にまで不明の数が減っていたので、残りは実際にそういう作業で仕分けされています。「データサイエンス」という言葉の響きとは対極にあるような作業ですが、現実はこんなものです。

　ともあれ、この作業で一定のエラーは含まれているが、それなりに大きい数の男女別著者リストが得られたので、そのファイル(CSV)をAWSのS3というストレージサービスにアップロードしました。ここからはAWS上の計算機での作業になります。

今、あなたにオススメ
ニュース速報

ビジネス

日経平均は反発で寄り付く、ＦＯＭＣ通過で　ダウ上昇
2025.09.18

ビジネス

米0.25％利下げは正しい措置、積極緩和には警鐘　
2025.09.18

ビジネス

ＢｏｆＡ、米国内の最低時給を25ドルに引き上げ　2
2025.09.18

ビジネス

7月の機械受注（船舶・電力を除く民需）は前月比4.
2025.09.18
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：世界が尊敬する日本の小説36
特集：世界が尊敬する日本の小説36
2025年9月16日/2025年9月23日号（9/ 9発売）

優れた翻訳を味方に人気と評価が急上昇中。21世紀に起きた世界文学の大変化とは

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    「日本を見習え！」米セブンイレブンが刷新を発表、日本では定番商品「天国のようなアレ」を販売へ
  • 2
    中国は「アメリカなしでも繁栄できる」と豪語するが...最新経済統計が示す、中国の「虚勢」の実態
  • 3
    1年で1000万人が死亡の可能性...迫る「スーパーバグ」感染爆発に対抗できる「100年前に忘れられた」治療法とは？
  • 4
    「二度見した」「小石のよう...」マッチョ俳優ドウェ…
  • 5
    燃え上がる「ロシア最大級の製油所」...ウクライナ軍…
  • 6
    【クイズ】世界で最も「リラックスできる都市」が発…
  • 7
    「最悪」「悪夢だ」 飛行機内で眠っていた女性が撮影…
  • 8
    中国山東省の住民が、「軍のミサイルが謎の物体を撃…
  • 9
    「我々は嘘をつかれている...」UFOらしき物体にミサ…
  • 10
    【クイズ】世界で1番「島の数」が多い国はどこ？
  • 1
    「最悪」「悪夢だ」 飛行機内で眠っていた女性が撮影...目覚めた時の「信じがたい光景」に驚きの声
  • 2
    「中野サンプラザ再開発」の計画断念、「考えてみれば当然」の理由...再開発ブーム終焉で起きること
  • 3
    「我々は嘘をつかれている...」UFOらしき物体にミサイルが命中、米政府「機密扱い」の衝撃映像が公開に
  • 4
    【クイズ】次のうち、飲むと「蚊に刺されやすくなる…
  • 5
    科学が解き明かす「長寿の謎」...100歳まで生きる人…
  • 6
    「二度見した」「小石のよう...」マッチョ俳優ドウェ…
  • 7
    【クイズ】世界で唯一「蚊のいない国」はどこ？
  • 8
    【クイズ】世界で1番「島の数」が多い国はどこ？
  • 9
    「なんて無駄」「空飛ぶ宮殿...」パリス・ヒルトン、…
  • 10
    観光客によるヒグマへの餌付けで凶暴化...74歳女性が…
  • 1
    「4針ですかね、縫いました」日本の若者を食い物にする「豪ワーホリのリアル」...アジア出身者を意図的にターゲットに
  • 2
    【クイズ】世界で唯一「蚊のいない国」はどこ？
  • 3
    「まさかの真犯人」にネット爆笑...大家から再三「果物泥棒」と疑われた女性が無実を証明した「証拠映像」が話題に
  • 4
    信じられない...「洗濯物を干しておいて」夫に頼んだ…
  • 5
    「最悪」「悪夢だ」 飛行機内で眠っていた女性が撮影…
  • 6
    「レプトスピラ症」が大規模流行中...ヒトやペットに…
  • 7
    「あなた誰？」保育園から帰ってきた3歳の娘が「別人…
  • 8
    「中野サンプラザ再開発」の計画断念、「考えてみれ…
  • 9
    「我々は嘘をつかれている...」UFOらしき物体にミサ…
  • 10
    プール後の20代女性の素肌に「無数の発疹」...ネット…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中