最新記事

ネット

「ネット言論のダークサイド」を計算機で解析する ── データ分析による報道の技術とその再現性 ──

2016年5月10日(火)22時31分
大野圭一朗


著者の性別の判定

 今回、最終的に検証したい仮説が性別に基づくバイアスなので、著者の性別がわかっていないとどうにもなりません。この問題を解決するために彼らが行ったのは、ある意味とても原始的な作業でした。しかし技術的には高度でないにもかかわらず、この類の作業というのがデータ解析を行うときに最も面倒で時間のかかる作業であるケースも非常に多いです。つまり、一定のエラーを含みながらも必要な結果を得られる程度には正確な、形成されたデータを作るという作業です。

gardians09.jpg

名前から性別を判定するワークフロー (Cytoscape 3.3にて作成)


 今回の具体的な作業は上の図のようになります。まず12,000人の著者名を、無償で公開されている男女別の人名リストと比較するスクリプトを実行します。おそらくここではファーストネームの完全一致による単純な判別を行っていると思われます。これにより、11,098人分のデータが男女別に分類され、1,268人が性別不明として残りました。性別不明になる原因は色々と考えられるのですが、そもそも名前がリストにない場合はわかりませんし、名前の英語表記の揺れなども原因になります。例えば、下のスクリーンショットは今回使われた名前のリストからの抜粋ですが、日本人名の「ケンイチ」という名前は、正しく男性名に分類されていますが、表記がKEN'ICHIであるため、KENICHIという表記との単純一致だと取りこぼしてしまいます。このような名前や住所といったものの表記ゆれは厄介な問題で、バラバラにデータベース化された情報を統合する時に様々な問題を引き起こします。

gardians10.png

names.csv. KENという語で検索をかけた例

 さて、この時点で不明の1,268人分のデータの性別を判定するために、今度は以下の人名判定サービスにPerlスクリプト(この場合は、Perlというプログラミング言語で作業工程を記述した小さなプログラムのことです)で送信します:

genderize.io: Determine the gender of a first name

 このサービスを利用した後の時点で何名ぐらいが性別不明だったかはわかりませんが、なんとか人力で判定、つまり人名辞典やネット検索で人間が一つ一つ判定するのも不可能ではない程度の量にまで不明の数が減っていたので、残りは実際にそういう作業で仕分けされています。「データサイエンス」という言葉の響きとは対極にあるような作業ですが、現実はこんなものです。

 ともあれ、この作業で一定のエラーは含まれているが、それなりに大きい数の男女別著者リストが得られたので、そのファイル(CSV)をAWSのS3というストレージサービスにアップロードしました。ここからはAWS上の計算機での作業になります。

今、あなたにオススメ
ニュース速報

ワールド

イランのインフラ攻撃を5日間延期、トランプ氏表明 

ワールド

ジョスパン元仏首相が死去、シラク政権下で社会改革を

ビジネス

ECB、インフレ定着リスクなら躊躇せず行動=スロバ

ワールド

中国との関係改善「反米意味せず」、台湾野党党首が主
今、あなたにオススメ
MAGAZINE
特集:イラン革命防衛隊
特集:イラン革命防衛隊
2026年3月24日号(3/17発売)

イスラム神権国家を裏からコントロールする謎の軍隊の歴史と知られざる実力

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    【銘柄】「三菱商事」の株価に高まる期待...ホルムズ海峡封鎖と資源価格高騰が業績を押し上げ
  • 2
    レストラン店内で配膳ロボットが「制御不能」に...店員も「なすすべなし」の暴走モード
  • 3
    「カメラの目の前」で起きた爆発の瞬間...取材中の記者に、イスラエル機がミサイル発射(レバノン)
  • 4
    「胸元を強調しすぎ...」 米セレブ、「目のやり場に…
  • 5
    スウェーデン次期女王ヴィクトリア皇太子、陸軍訓練…
  • 6
    韓国製ミサイル天弓-II、イラン戦争で96%迎撃の衝撃 …
  • 7
    イランは空爆により核・ミサイル製造能力を「喪失」…
  • 8
    キャサリン皇太子妃、ナイジェリア大統領夫妻出迎え…
  • 9
    「筋力の正体」は筋肉ではない...ストロングマンが語…
  • 10
    温暖化で増えた? サンマやサケ減少の裏で激増する…
  • 1
    温暖化で増えた? サンマやサケ減少の裏で激増する「安価で栄養価の高い魚」の正体
  • 2
    「ノーと言えるスペイン」の背景に国防意識...次期スペイン女王は空軍で訓練中、問われる「軍を知る君主」
  • 3
    キャサリン皇太子妃、ナイジェリア大統領夫妻出迎え時の装いが話題――「ファッション外交」に注目
  • 4
    数時間以内に死に至ることも...若者の間で集団感染が…
  • 5
    メーガン妃、娘リリベット王女との「お手伝い姿」公…
  • 6
    第6回大会を終えて曲がり角に来たWBC
  • 7
    【衛星画像】イラン情勢緊迫、米強襲揚陸艦「トリポ…
  • 8
    【銘柄】「三菱商事」の株価に高まる期待...ホルムズ…
  • 9
    韓国製ミサイル天弓-II、イラン戦争で96%迎撃の衝撃 …
  • 10
    「マツダ・日産・スバル」が大ピンチ?...オーストラ…
  • 1
    温暖化で増えた? サンマやサケ減少の裏で激増する「安価で栄養価の高い魚」の正体
  • 2
    ロシア政府、痛恨のミス...プーチンの「健康不安説」を裏付けるような動画を公式に投稿してしまう
  • 3
    メーガン妃、娘リリベット王女との新ショット公開...撮影はパパ
  • 4
    「ノーと言えるスペイン」の背景に国防意識...次期ス…
  • 5
    見事なカンフーを見せた中国ヒト型ロボットのからく…
  • 6
    キャサリン皇太子妃、ナイジェリア大統領夫妻出迎え…
  • 7
    アルコールは血糖値を下げる...「脳と血管を守る」医…
  • 8
    数時間以内に死に至ることも...若者の間で集団感染が…
  • 9
    「日本より、自分の国(フランス)を心配すれば?」…
  • 10
    日本の若者「韓国就職」憧れと現実のギャップ ── ビ…
トランプ2.0記事まとめ
Real
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中