PythonのWebスクレイピングが失敗する理由はハンバーガーメニュー?Selenium でエラーメッセージ「element not interactable」が出る場合の対処法

PythonとSeleniumでWEBスクレイピングをするときのエラーメッセージ「element not interactable」が出る1つの場合と対処法

昨日Pythonで某WEBサイトからデータをスクレイピングする簡単なプログラムを作っていました。しかし、何度実行させても上手く処理が進まず同じエラーに悩まされました。

今回はそんなエラーの種類とその不具合の原因、そして対処法について書きます。

エラー「element not interactable」

今回遭遇したエラーは、

element not interactable

というものです。何度コードを書き換えてもこれが登場しました。

element:要素
interactive:相互に反応しあう

という意味です。

私が書いていたコードはその要素に対して対してクリックの指示を出すコードでした。

そこでこのエラーメッセージを大雑把に、「その要素がクリックできる要素ではないのか、あるいは、クリックできる要素だけどクリックできない状態なのか?」と理解しました。

不具合の原因はハンバーガーメニュー

昨日は6時間近くもそのエラーメッセージを克服するために費やすことになり、1日の予定が完全に狂いました。

で、そのエラーが出た原因は、ずばりハンバーガーメニューでした。

最近のWEBサイトはヘッダー部分にある「メニュー」項目が、

・PCの大画面でみるときはヘッダーの下部にメニュー項目が並ぶ
・スマホで見るときは、メニュー項目はハンバーガーメニューになる

というように変化しますよね。次の2つの画像を見てください。

Pythonプログラミング入門とスクレイピング
PCのモニターで全画面表示している場合などウインドウ幅が大きいときは、メニュー項目が横に並ぶ
Pythonプログラミング入門とスクレイピング
ウインドウ幅が小さいときはハンバーガーメニューとなる

これはこのブログのスクリーンショットですが、通常のメニュー表示からハンバーガーメニュー表示へ変わっていることがわかると思います。

私はいつもブラウザはウインドウサイズを最大化して使っているので書いていたコードは、ウインドウサイズがけっこう大きい場合に表示されるHTMLを対象にしたものでした。

ところがSeleniumを使ってブラウザのChromeを起動させたとき、そのChromeは全画面表示ではなく少し小さいウインドウサイズで起動します。

それゆえ、対象WEBサイトはスマホやモバイル用のHTML(そしてJavaScript)が使われ、上記のようにメニュー項目がハンバーガーメニューになっていたのです。

そしてハンバーガーメニューにはだいたい特別な処理が使われます。そのため初歩的なスクレイピングのコードでは対応できず、なんらかの工夫が必要となることが多いです。

このことに6時間気づきませんでした。ずっとそのハンバーガーメニューを相手に苦闘していました。

対処法

上述のように最大の問題点は、ウインドウサイズでした。

ならば、ウインドウサイズを大きくして(最大化など)Chromeを起動させ、スクレイピング対象となるWEBサイトを表示させれば良いのです。

まず、通常のSeleniumを使ったWEBスクレイピングのコードでよくあるのが、次のように「Chromeを立ち上げる」というコードだと思います。

driver = webdriver.Chrome() #Windowsの場合。MacOSの場合は()内にwebdriverのパスが必要?

これだけだと、起動するChromeのウインドウサイズは最大化していません。

そこで、起動した後に最大化させるコードを追加します。それが次のものです。

#ウインドウ最大化
driver.maximize_window()

これでChromeのウインドウ幅が最大化され、その後に対象WEBサイトを表示すると、ハンバーガーメニューではない普通のメニュー項目を使った表示となります。

あとは、普段の基本的なスクレイピングのコードで上手く処理することができました。

以上のように、Python+SeleniumでWEBスクレイピングをしていて不具合が出たときは、ブラウザのウインドウサイズとサイトデザインに注意すると問題が解決するきっかけになるかもしれません。

やっぱりプログラミングは独学だとわかりにくいですよね、そこでスクールや動画による解説を利用しましょう!

Tech Academy

厚切りジェイソンのCMでおなじみのプログラミングスクール。自宅でオンライン受講OK。現役のプロが一人一人に専属メンターになってくれ、質問すればすぐに回答。転職保証あり

Udemy

世界最大級のオンライン学習動画サービス。AI・データサイエンスなど最先端のプログラミング講座からビジネススキル講座まで10万以上の講座から選び放題。講師に掲示板から直接に質問もできる。