[
板情報
|
カテゴリランキング
]
したらばTOP
■掲示板に戻る■
全部
1-100
最新50
|
メール
|
1-
101-
201-
301-
401-
501-
601-
701-
801-
901-
1001-
1101-
この機能を使うにはJavaScriptを有効にしてください
|
htmltodatサポートスレッド
1
:
</b><font color=#FF0000>(L44UP/ps)</font><b>
:2002/11/30(土) 01:48
QA・要望等受け付けるかもしれない(?)スレッドです。
作者にスキルがないのでできないことが多いかとは思います。
1007
:
1005
:2017/12/17(日) 00:15:45
>>◆/vmukiyuzwさま
ブラウザから貼り直しました。
ほんとにほんとにありがとう。<(_ _)>
1008
:
名無しさん
:2017/12/19(火) 09:35:18
変換中。しばらくお待ち下さい。。。
1009
:
◆/vmukiyuzw
:2018/05/05(土) 00:11:16
バージョンアップしました(0.11.10)
・SSL/TLSに対応した。
これでhttps:// のURLへのアクセスもできるようになったと思います。
OpenSSLのdllの導入が必要になります。
http://indy.fulgan.com/SSL/
の openssl-ほにゃらら-i386-win32.zip の一番新しいやつを
ダウンロード・解凍して libeay32.dll と ssleay32.dll をhtmltodat.exeと
同じフォルダーにコピーして下さい。
(OpenSSLのライブラリは最近いろんなプログラムで使われているので
Windowsのシステムフォルダに置くよう推奨したほうがいいのかな?
また、頻繁に更新されているライブラリなので最新の情報をウォッチしておく必要も
あると思われます)
前バージョンまでが「SSL/TLS暫定対応」だったのは、
今まで使っていたコンポーネントがTLS1.2に対応してなかったためです。
TLS1.2対応にはコンポーネントのバージョンを上げる必要があったのですが、
互換性の部分で不具合が出がちと聞いていたので二の足を踏んでいました。
ですが、意を決してやってみるともちろん不具合はいくらか出たのですが
意外に楽に対処できたのでまあ良かったかなと思います。
現在使われているprmファイル等への影響は基本的にはないはずですが
なにかありましたらここへご連絡ください。
1010
:
名無しさん
:2018/06/21(木) 15:35:29
eggサーバーなどで使われている read.cgi ver 07.1.0 2017/10 Walang Kapalit ★
で使える正規表現のパターンがあれば教えていただけないでしょうか
1011
:
◆/vmukiyuzw
:2018/06/22(金) 00:00:21
>>1010
さん
変換自体は
>>976
でできるはずですが5chへの対応ができてない部分とか
冗長な部分とかあったので修正しておきます。
2018/06/21現在 bbspink で使われている 07.2.0、運用情報等のagree鯖で使われている 07.2.1 にも対応。
コメント:
# 2chのread.cgi 07系からの出力を変換-20180621
# 2chのcgi仕様変更(07.1.0 - 07.2.1)に対応
URLの変換:
# htmltodat 0.11.10以降を使っていればこれはなくてもよい
s#https?://(.+?)/test/read\.cgi/(.+?)/(\d+)/?.*#http://$1/test/read.cgi/$2/$3/#
前処理:
# メール欄にURLが貼られた時のとりあえず対応
s#(<a href="mailto:)([^<>]*?)(?:<a href[^>]*?>)?([^<]*?)(?:</a>)?([^>]*?)(">)#$1$2$3$4$5#ig
アンカー削除:
false
透明あぼーんを補う:
true
後処理:
# BE周りの処置
s#</span><span class="be .*?><a href=".*?//be\.(?:[25]ch\.net|bbspink\.com)/user/(\d+).*?>\?(.*?)</a># BE:$1-$2#ig
# アンカータグ削除(レスアンカーに対するタグは削除しない)
s#<a(?: class="image")? href="http.*?>(.*?)</a>#$1#igk
# お絵かき機能等のimgタグを除去
s#<img src=".*?(//.*?)">#sssp:$1#igk
# IDの前に付くようになった不要なタグを除去
s#</span><span class="uid"># #igk
# 07.2.1で追加された不要な要素を除去
s#<><span class="AA">(.*?)</span><>#<>$1<>#igk
s#(target="_blank").*?>#$1>#igk
正規表現:
m#<span\ class="number">([0-9]+).+?<span\ class="name"><b>(?:<a\ href="mailto:(.*?)">)?(.*?)(?:</a>)?</b></span><span\ class="date">(.*?)</span></div><div\ class="message"><span\ class="escaped">(.*?)</span></div>#mi
1012
:
名無しさん
:2018/10/04(木) 15:03:16
vip・実況系の画像関係の仕様が変わったようで、htmltodatで変換すると
<a class="image" href="
http://jump.5ch.net/?https://xxx.jpg">https://xxx.jpg</a>
という文字列が入るようになりました。
このdatを専ブラで表示すると、
http://jump.5ch.net/?https://xxx.jpg
と
https://xxx.jpg
の二種類のリンクが表示されるようになります。
ご対応していただけたら幸いです。
1013
:
◆/vmukiyuzw
:2018/10/04(木) 23:58:16
>>1012
さん
それは多分、read.cgi 07.2.1 と呼ばれているものが
当初agree鯖(運用系のサーバ)でだけ使われていたものが他のサーバにも
適用されてきている状況かと思います。
で、それへの対応ということなら
>>1011
で出来ている筈なのですが。
s#<a(?: class="image")? href="http.*?>(.*?)</a>#$1#igk
の行がその問題に対処しています。
もし
>>1011
を適用してもうまくいかないという場合、
専ブラでなく汎用ブラウザで
>>1011
のレスを表示しそれをコピペして
prmファイルを作り直してみてください。
(専ブラからコピーするとReplaceStr等の機能で正しくコピーできない可能性がある)
それでもうまくいかない場合は該当のスレのURLをお教えください。
1014
:
名無しさん
:2018/10/06(土) 11:11:16
>>1013
さま
コピペした所、問題なく変換出来ました!
ご対応して頂きありがとうございます。
1015
:
名無しさん
:2018/11/25(日) 16:11:37
現在のみみずんで使える正規表現ありませんか?
1016
:
◆/vmukiyuzw
:2018/11/26(月) 19:57:03
>>1015
さん
現在のみみずんの状況があまりよく分かってないので
みみずんでのスレのURLをいくつか例示して
頂けないでしょうか。
1017
:
名無しさん
:2018/11/28(水) 07:33:33
みみずん
http://mimizun.com/log/2ch/girls/1257859037/
ここもメルアドがcdnになってます
1018
:
◆/vmukiyuzw
:2018/11/29(木) 01:07:27
バージョンアップしました(0.11.11)
・0.11.4で取り入れたメール欄難読化のデコード処理を復活
「メール欄難読化のデコード処理」については、
>>819
あたりから問題になって
>>821
(v0.11.4)で対応したのですが
その後(2015年3月頃?)2chでは難読化は行われなくなったので
htmltodatの処理としては無効にしていました。
が、
>>1015
,1017さんのご指摘によりみみずんではまだ難読化は行われてるということなので
デコード処理を復活させました。
(コメントアウトしていたのを外しただけですが^^;)
で、これを前提としての現在のみみずんでの正規表現等は次レスで。
1019
:
◆/vmukiyuzw
:2018/11/29(木) 01:47:55
みみずんの変換についてはかなり前ですが
>>710
のころは
dat形式でアクセスすることが可能だったんですが今では無理みたいですね。
で、html形式は
>>711
のころとさして変わってないようなんですが
若干変更されてる部分と難読化デコードを含めて以下のようにしてみました。
コメント:
# みみずん(mimizun.com)変換-20181128
前処理:
# 名前欄のemail-protectionをデコードする
s`<a href="/cdn-cgi/l/(email-protection)".+?data-cfemail="(.+?)">\[email.*?\]</a>`$1#$2`ikg
# メール欄のemail-protectionをデコードする
s`(<a href=)"/cdn-cgi/l/(email-protection#.*?">)`$1"mailto:$2`ikg
後処理:
s`<br ?/>`<br>`g
s`<time .*?>(.*?)</time>`$1`g
正規表現:
m`
<div\ class="contributor"><a\ name="(\d+)">.*? #レス番
<span\ class="handle">(?:<A\ HREF="mailto:(.+?)">)? #メール欄
(.+?)(?:</A>)?</span> #名前欄
:(.*?)</div> #投稿日
<div\ class="res">(.*?)</div> #レス本文
`mikx
1020
:
名無しさん
:2018/12/01(土) 08:50:34
>>1019
>>1015
さんとは無関係の者です
> dat形式でアクセスすることが可能だったんですが今では無理みたいですね。
に驚いて確認してみましたが、dat形式でDLできました(wgetで、ですけど…)
datでDLできないのが「URLが.datでもHTML形式になってしまう」のなら
おそらくUser-Agentに Monazilla が含まれていないのが原因です
cf. ttp://mimizun.com/blog/2008/09/dat.html
ttp://mimizun.com/blog/2012/02/post-694.html
…というか、mukiyuさんはご存じのはずでしたね
対応した結果が
>>572
で、でも
>>908
でダメになった、と。
というわけで、
>>1000
のようにすればよいのではないかと思います
>>1000
との違いは、URLの変換のところを
s#https?://(.*?)/test/read\.cgi/(.*?)/(\d+)/.*#
http://mimizun.com/log/2ch/$2/$3.dat
#
に変えるだけだと思うのですが、テストしたら文字化けしたので(おそらくおま環)
正しいか確認できていません
ここからはhtmltodatと関係なくなってしまうのですが、もしJaneXenoを使っているなら
設定で「みみずん検索から過去ログを取得」にチェックを入れるとみみずんからdatを取ってくれます
このとき、"過去ログだと判定させる"のがミソで、板一覧を先に更新しておかないと失敗することがあります
(JaneXenoはAPI非対応で、公開も終了しています)
余談ですが、wgetでHeaderを取得するとこんな感じでした(一部)
ttp://mimizun.com/log/2ch/girls/1257859037.dat
Content-Type: text/download
Last-Modified: Mon, 06 Feb 2012 15:17:25 GMT
Vary: Accept-Encoding
Server: cloudflare
みみずんさんcloudflareを導入されたようですね メールアドレス難読化はおそらくcloudflareがやっています
2chでメール欄難読化をやめた後くらいに知ったのですが、cloudflareを利用するとき
難読化するかオプションで選べるらしいです
2chは途中で 難読化する→難読化しない に変更したわけで、みみずんさんも変更されるかもしれません
あと、Content-Lengthがない…
実際にDLしてみると 153,432 byte で、dat形式で、JaneXenoに入れてちゃんと読めました
JaneXenoの「みみずん検索から過去ログを取得」で取得したdatとも一致します
エンコードはSJISですし、なぜhtmltodatで文字化けするのか… まあゆっくり検証します
あと、datのメール欄は難読化されたりしません。当然か。
長々とごめんなさい
1021
:
◆/vmukiyuzw
:2018/12/02(日) 00:52:35
>>1020
さん
検証いただきありがとうございます。大変助かりました。
みみずんのdatにアクセスできないのがUser-Agentのせいだったとは盲点でした、
5chへの影響ばかり気を取られていたので。
で、文字化けに関してですが、決しておま環などではなくこちらでも再現しました。
>>1000
でも文字化けしますね。
調べてみると、以前のバージョン(0.11.9とか)だと発生しないんで、
>>1009
から採用した通信コンポーネントIndy10の仕様と現在のhtmltodatの仕様の
食い違いが原因なようです。
(htmltodatでは自力で文字コード変換をやろうというつくりになっているが
Indy10ではIndy10側で文字コード変換をやろうとしているようでそこがぶつかっている)
解決策はいくつか考えてるのですがまだ調べないといけないことが多くあり
ちょっと時間かかりそうです。
当面は、
>>710
や
>>1000
のような「htmlを介さずdatを取得」する方法は使えない
ということでお願いします。(htmltodatのバージョンを0.11.9に落とせば可能ですが)
1022
:
1020
:2018/12/02(日) 09:58:31
>>1021
おう、まじすか。
UAの件は
>>572663
◆fnwcOWFi56さん(mirrorhenkanさん)の掲示板でやりとりされていましたが
1023
:
1020
:2018/12/02(日) 10:03:49
まだ投稿するつもりじゃなかったのに…
webarchiveに拾いに行くのでちょっと時間かかりそうです
1024
:
1020
:2018/12/02(日) 12:09:59
…気をとりなおして。(さっきのは半/全キーとTABを押し間違ったらしい…)
>>1021
UAの件は
>>572
の直前に
663 ◆fnwcOWFi56さん(mirrorhenkanさん)の掲示板でやりとりされていましたが
わいわいかきこ、まるごと無くなりましたからね…
>>911
というのがあったんでwebarchiveに探しに行ったんですが、どうやらないようです
もしローカルにdatが残っていらっしゃるなら
メモ4
ttp://yy14.kakiko.com/test/read.cgi/mirror/1213700846/109-119
を見て頂ければ。(しかし、もう10年も前とは)
文字化けの件は私の側でできることは今のところない、でいいのかな
別にdat変換してないのでhtmltodatでなくてもいいんですが
私みたいにwget使っちゃうような人はともかく
初心者がUser-Agentを任意のものに変更するのにこれ以上簡単な方法が思いつきません
(上のmirrorhenkanさんの掲示板に出てきたmimizun.jsとかgetlog.wsfとか今でもあるんだろうか)
まあみみずんを読むのは
>>1019
でできるようなので、なんとかなるでしょう
1025
:
◆/vmukiyuzw
:2018/12/03(月) 02:06:11
>>1024
さん
> もしローカルにdatが残っていらっしゃるなら
> メモ4を見て頂ければ。(しかし、もう10年も前とは)
dat残ってました。確かに10年前ですね。忘却の彼方でした^^;
663さんの説得で私が折れた感じですかね。あの頃のバージョンアップは
そういうパターンが多かった気がw。663さんお元気だろうか・・・
(htmltodat-convert2の件で一回メールでやりとりしたんですが
>>997
)
しかし、わいわいかきこの消滅は悲しかったですね。このスレにも
リンクがいっぱい貼ってあるのに。私はログを持ってるので読めますが
ほとんどの人には飛べないリンクですよね。
したらばはなんだかんだありながらも続いてるので有り難いなあ。
1026
:
◆/vmukiyuzw
:2018/12/03(月) 02:22:11
今から見ると面白いなあと思うのが、663さんに対する私の発言で
(みみずんではUAをMonazillaにすればdat直読みできるという話題)
> 110 名前: ◆/vmukiyuzw [sage] 投稿日:08/09/21(日) 00:05:06 ID:f6dOajKh
> > htmltodatの受信ヘッダで
> > 送信するUAのデフォルトをMonazillaにして頂けたら嬉しいです。
>
> いわゆる「2ch専用ブラウザ」としての機能は何も持ち合わせてないのに
> UAでMonazillaを騙るのはおこがましいというか詐欺っぽいので
> あまりやりたくないです。
> # まあやったところで何か実害が出るとかいうことはないとは思いますが・・・
>
> 筋道としては、問題と思われるなら整理してみみずんさんに提示するほうが先では?
> てもうされてたならすみません。
などと語っていること^^;
このときは後に「専ブラでもないくせに何でUAでMonazillaを名乗ってるの?」とか
叩かれることになろうとは想像もしてなかったですw
1027
:
◆/vmukiyuzw
:2018/12/18(火) 21:17:14
バージョンアップしました(0.11.12)
・0.11.10で導入したIndy10により発生した文字化け問題に対応。
>>1020-1021
で発覚した文字化け問題への対応です。
以前使っていた通信コンポーネントIndy9では、HTTPのGET処理を実行して返ってくるデータは
サーバが返してくるほぼそのままだったので、gzipの解凍だとか文字コード変換とかは
全部アプリ側でやらなきゃいけなかったんです。
けどIndy10ではその辺をある程度やってくれる・・・ので楽になった部分もあるのですが
文字コード変換に関しては私見ですがいまいちな感じ。うちの開発環境が古いんで
それとの相性かもしれませんが。
HTTPレスポンスヘッダのCharSet等から文字コードを判別してるようなのですが
>>710
や
>>1000
みたいなdat形式でアクセスする場合CharSetは指定されておらず、
その場合全然違う文字コードと解釈されて変な変換されて結果文字化けしてしまう、
という状況のようでした。
(html形式でのアクセスの場合はCharSetは大抵指定されてるので問題なかったと思われる)
で、結局、文字コード変換を行わない別のGET処理が用意されてるのを見つけたので
そっちを使うよう変更しました。
(つまり文字コード変換は従来通り自力でやる)
プログラムとしては数行の変更ですが内部処理はかなり変わってると思うので
いろんなサイトでテストしたつもりですがもし問題あればご連絡ください。
1028
:
名無しさん
:2018/12/19(水) 22:12:22
>>1027
乙でございます
いくつか試してみて今のところ問題ありません
1029
:
◆/vmukiyuzw
:2018/12/20(木) 21:32:31
別件で調べものしててたまたま見つけたんですが。
>>1024-1026
で出てきた663さん(mirrorhenkanさん)の掲示板ですが
http://mirrorhenkan.r.ribbon.to/b/board/
で復活されてたんですね。2015年2月ごろでしょうか。
わいわいかきこ時代のログも移されてますし専ブラでも外部板登録すれば読めます。
で、専ブラでこの板のログを取得し、
http://yy14.kakiko.com/mirror/
も外部板登録してそちらにsubject.txtとdatをコピーすれば、
例えば
>>737
のようなリンク切れして見られない663さんの板へのリンクが
見られるようになるのではないかと思います。
かつていろいろやりとりしhtmltodatの機能アップにつながるご意見を
色々頂いたので、そのログがwebarchiveとかじゃなく見られる形であるのが
嬉しいです。
1030
:
1020
:2018/12/22(土) 09:00:10
>>1029
>>1024
=1020っす おー、朗報ですね
kakiko時代のスレを読む方法として他に、Jane系のようなレスの置換機能のある専ブラなら
ttp://mirrorhenkan.r.ribbon.to/b/board/ を外部板登録して
<rx2>h?ttp://yy14\.kakiko\.com/test/read\.cgi/mirror/【TAB】<font color=green>[yykakiko]</font> ttp://mirrorhenkan.r.ribbon.to/b/test/read.cgi/board/【TAB】msg
てな感じでリンクの方を置換しちゃうのもありです
これなら ttp://yy14.kakiko.com/mirror/ のほうは外部板登録しなくてよいので
1031
:
名無しさん
:2019/01/27(日) 06:04:34
受信オプションボタンを押してURLの変換のところで
次の2つを変換したいと思いますが2つ目の変換がされません
s/2ch/5ch/
s/https/http/
実際の記述はどのようにすればよいのでしょうか?
1032
:
◆/vmukiyuzw
:2019/01/29(火) 00:24:11
>>1031
さん
こちらで検証してみても特に問題はないので記述に問題はないと思われます。
何をもって2つ目の変換がされないと思われたのでしょう?
私の環境ではプロキシソフト(Proxomitron Rebornてやつ)で通信ログを見て
正しく変換されてると思ったのですが。
1033
:
◆/vmukiyuzw
:2019/01/29(火) 00:32:59
ちなみに、htmltodatでは現在のバージョンではSSL/TLSに対応しているので
s/https/http/
これは不要のはずです。(httpsのアドレスでもアクセス可能)
1034
:
1031
:2019/01/30(水) 05:47:37
>>1032
解決しました。
古い0.11.8を使用していました。
せっかく作者様がいろいろ対応して下さっている最新版を使わずに質問してすみませんでした。
あまりよく理解していないままですが便利に使用させて頂いております。
変換がうまくいかない場合はサポートBBSにある正規表現を使ってみてうまく行ったら後は何も触らず似使っています。
https://の場合はURL貼り付け後にsを取るためにIビームポインタを合わせるのに苦労していました。
また、2ch.netでうまくいかなくなってきて5ch.netに修正するときにも面倒な作業をいちいち操作して使っていました。
いざ自分の直面している問題に関係しているとBBSの内容も少しずつ理解できるようになってきました。
OpenSSLのところのダウンロードもうまくできました。
このようなソフトウェアを使わせて頂きありがとうございます。
普段はブラタモリの録画を見ながら実況スレを探し出してJaneStyleで見るといういうような使い方が多いです。
放送後間もないときは実況Headline板で該当URLを1個ずつコピーしています。
日にちが経ってしまったときはGoogleでsite:5ch.netのようにサイト指定して当時のスレを探しています。
とにかくこのソフトがあってこそ、です。
配布ページの下の方にあるAmazonのリンクを経由して、少額だと思いますが買い物するようにします。
ありがとうございます
1035
:
◆/vmukiyuzw
:2019/01/31(木) 02:17:26
>>1034
さん
htmltodatの使い方というわけではないのですが
> 普段はブラタモリの録画を見ながら実況スレを探し出してJaneStyleで見るといういうような使い方が多いです。
> 放送後間もないときは実況Headline板で該当URLを1個ずつコピーしています。
> 日にちが経ってしまったときはGoogleでsite:5ch.netのようにサイト指定して当時のスレを探しています。
こうやって過去ログを追っかけるときは、
板TOP(NHK実況なら
https://nhk2.5ch.net/livenhk/
)から
「過去ログ一覧はこちら」をクリックして出てくる過去ログの一覧
(
https://nhk2.5ch.net/livenhk/kako/kako0000.html
とか)を見る方が
はかどるかもしれません。
まあこっちもあまり日にちが経ってしまうとしまうと見られなくなるみたいですが
Googleだと流れのはやいスレは追えないことがよくあるのでそれよりは確実な気がします。。
> 配布ページの下の方にあるAmazonのリンクを経由して、少額だと思いますが買い物するようにします。
配布ページは無料レンタルサーバなのでそんなことされても私には一文も入ってきません^^;
道楽でやってることですのでお気遣いなく。
1036
:
名無しさん
:2019/01/31(木) 07:41:02
最初に謝っておきます。◆/vmukiyuzwさん、htmltodatに関係ない話してすみません!!
>>1034
そんなあなたに便利なサイトをご紹介。(中の人ではありません)
ttp://2chlog.com/2ch/live/calendar.php?ita=livenhk
ここから日付に飛ぶとその日に立ったスレの一覧が見られ、(10桁の数字).datを右クリでダウンロードすると
datが手に入ります(htmltodatで変換しなくてよい)
スレ立て基準なので、ブラタモリなら放送日を見ればよいですが
深夜番組などの場合は当日と前日の両方を見たほうがよいです
NHK以外の板もありますが、テレビ実況系のみです
>>1035
日にちが経っても見られるはずですよ
ただ、Listがスレッド番号表記のみなので、スレ立て日がわかっていても
(だいたいの)UnixTimeに直すのがちょっと面倒ですね
昔実況系板のkako####.html生成がなんかで失敗してたことがあったんですが
(【pastdat】新型DAT落ち装置●旧おせっかい Part.4 [無断転載禁止]©2ch.net
ttp://carpenter.2ch.net/test/read.cgi/operatex/1462280087/389-391,434 2016/05でした)
Mangoさんがそっこー直してくれたんで、あるはずのスレが一覧になかったら報告すれば直ると思います
1037
:
◆/vmukiyuzw
:2019/02/01(金) 22:41:01
>>1036
さん
便利なサイトご紹介いただきありがとうございます。
ミラーサイトってのも今時なかなか運営が難しそうな気がするのですが
頑張ってる方もまだおられるのですね。
> ただ、Listがスレッド番号表記のみなので、スレ立て日がわかっていても
> (だいたいの)UnixTimeに直すのがちょっと面倒ですね
確かにそうだと思ったので、過去ログ一覧ページにあるスレッド番号らしき記述を
年月日時分秒に変換するブックマークレットをとりあえず書いてみました。
ただあのページ自体使い勝手はかなり悪いのでこれぐらいでたいして
改善されるわけではないんですが。
javascript:(function(){document.body.innerHTML=document.body.innerHTML.replace(/(\d{9,10})((?=[\-\s\<])|\.dat)/g,function(ma){var n=ma.replace(/\.dat/,"")-0;n*=1000;var d=new Date(n);var year=d.getFullYear();var zp=function(a){return(('0'+a).slice(-2))};var month=zp(d.getMonth()+1);var day=zp(d.getDate());var hour=zp(d.getHours());var min=zp(d.getMinutes());var sec=zp(d.getSeconds());return(year+'/'+month+'/'+day+' '+hour+':'+min+':'+sec)})})()
1038
:
名無しさん
:2019/02/16(土) 09:13:59
昨晩、ドキュメント72時間,トクサツガガガ,タモリ倶楽部,フルーツ宅配便,日本ボロ宿紀行と録画したのでJaneStyleで読むログをゲットすることに。
htmltodatで気になっていた一括変換ボタンというのを使えないかなと思いました。
いまなら実況headline板に生きてるからURLがコピーできる。
プログラムのあるフォルダに[変換前]、[変換後]という名前の二つのフォルダを作りました。
[変換前]フォルダの中にはどのようなファイルを置けばいいのでしょうか?
JaneStyleのアドレス欄は以下のようになっていて拡張子htmlではありません。
https://headline.5ch.net/test/read.cgi/bbylive/1550230754/
Webブラウザで2chを見ているときはHTMLファイルを読み込んでいて、専用ブラウザで2chを見ているときはDATファイルを読み込んでいると理解しています。
htmlファイルを得るにはブラウザーで開くのでしょうか?開いてみましたがアドレスバーのところには
https://nhk2.2ch.net/test/read.cgi/livenhk/1550230754/
となっていて拡張子が見あたりません。
https://nhk2.2ch.net/test/read.cgi/livenhk/1550230754/index.html
とか
https://nhk2.2ch.net/test/read.cgi/livenhk/1550230754.html
ということなのかな。。。アッ、これでいいのか!わかりましたw
[変換後]フォルダはテストなので作成しました。将来は[\Jane Style\Logs\2ch\実況ch\番組ch(NHK)]などを直接指定しようと思います。
それではドキュメント72時間3スレ、トクサツガガガ10スレ、タモリ倶楽部3スレ、フルーツ宅配便2スレ、日本ボロ宿1スレ
これらのURLをコピーして一つのテキストファイルの中に一行づつ、、、なんか違う。
あ、このフォルダの中に、1スレにつき1個のhtmlファイルを置いていくのか。
これだと面倒さは今までと変わらないな
なんか、こんなことをさっきまでやってました。質問しようと思っていましたがなんだかわからなくなってしまいました。
日本ボロ宿紀行の主役は朝ドラのよしのちゃんで、キャプのリンクも生きていてよかったです。
1039
:
◆/vmukiyuzw
:2019/02/18(月) 00:28:55
>>1038
さん
「一括変換」の機能について齟齬があるかもしれません。
htmltodatの「一括変換」というのは、ローカルPC内にある複数のhtmlファイルを
いっぺんにdatに変換する機能です。
で、「そのローカルのhtmlファイルはどうやって作るの?」ていう点については
ブラウザのダウンロード機能なりダウンロードソフトなり使って
自力で何とかしてね、ということにしています。
多分期待されてることは
「このページのいくつかの(もしくは全ての)スレをいっぺんに取得して変換したい」
ということだと思うのですが、「いっぺんに取得」の部分は
使い方によってはクローラー的な動作になってしまうかもしれないので
そこはhtmltodatの機能としては実装したくない、自己責任でお願いしたい、
という思いでそういうことにしています。
もともとは、htmltodat作ったころは
過去ログをhtml形式でまとめてアップしている有志のサイトが結構たくさんあって
そこからのログを取得していっぺんにdat化するのが「一括変換」の主な目的だったんです。
そういうサイトも少なくなって、この機能使ってる人もあんまりいないんじゃないか
と思って一時期隠し機能にしたことがあるんですが
>>805
さんのように「使ってる」というレスもあったので復活させた経緯もあります。
前置き的なものが長くなってしまいましたが、貴方のやりたいことを満たすには
URLのリストを入力していっぺんにダウンロードできるツールを探すか(多分いっぱいあると思う)
>>1036
さんが紹介してくださったようなサイトを利用するかじゃないでしょうか。
後者だとhtmltodatは必要ないんですけどね。
1040
:
名無しさん
:2019/09/17(火) 04:58:16
おそらくトリップをNGNameに入れることが出来ないんだろう
NGしたいレス番をクリックして
NGItemに追加-NGNameに追加
(必要なら表示されている文字列の一部を削除)
1041
:
名無しさん
:2019/09/17(火) 04:59:12
誤爆スマン
1042
:
名無しさん
:2020/05/08(金) 13:54:57
こんにちは。 過去何度もお世話になっております。
そのつど丁寧に教えて下さりありがとうございます。
今回も教えてくんで恐縮ですが・・・。
スレ1に張られている前スレのリンクはそのままjaneで
読み込める場合もあるし読み込めなかったりもします。
今回は読み込めず、ブラウザで開くと
>■ このスレッドは過去ログ倉庫に格納されています
とでますが全レス読めます。
URLをhtmltodatに貼り変換すると、変換警告が開き
>
http://aoi.bbspink.com/test/read.cgi/hgame2/1298937799
>レス 1-3 の間が飛んでいます
と表示されますがプレビューでは抜けておらず、最後の
836まで変換されています。
datを保存しjaneで見ると最後が835と1レス少ないので
すが、よく見るとレス2が2つありました。
レス2直前の
><div id="js--banners--thread"></div>
を消すと直るようでした。
これを前処理等で自動処理するにはどうすればいいでしょうか?
1043
:
<削除>
:<削除>
<削除>
1044
:
◆/vmukiyuzw
:2020/05/09(土) 17:39:34
>>1042
さん
(いったんレスしたのですが勘違いがあったので修正します)
bbspinkの変換については
>>964
だと思っていたのですが
過去のサーバについては古いread.cgiで動いているようですね。
該当スレの最後を見ると
read.cgi ver 05.04.02 2018/11/22 Walang Kapalit ★
とあります。05.04.02というバージョンは初めて見ましたが、
05系ということで
>>936
の奴を試したところ
特に問題なく変換できているように思います。
どのバージョンでどれを使うかは
>>989
参照。
# 本当ならこの「どの正規表現等を使うか」の判断は
# htmltodat側でやるべきなんでしょうね
# でも今の機能にそれを組み込むのはメッチャ難しそうなので
# 放置中です・・・
1045
:
1042
:2020/05/10(日) 05:00:48
>>◆/vmukiyuzw様いつもありがとうございます。<(_ _)>
既出を聞いてしまいました・・・。すみません。
”間が飛んでいます”でしかスレ内検索してませんでした。
1046
:
名無しさん
:2021/09/30(木) 17:46:25
こんにちは。
スマホビュアデモ(試β5) というとこでスレ見つけ
ましたが、自分で正規表現書けません。
お暇な時にでも教えてやってください。
一覧(1〜13)
https://www.kyodemo.net/sdemo/b/ascii/?k=fakeapp&kt=bk
スレ1
https://www.kyodemo.net/sdemo/r/ascii/1518391672/1-
1047
:
◆/vmukiyuzw
:2021/10/02(土) 22:49:44
>>1046
さん
一から正規表現等書いたのはめっちゃ久しぶり(
>>1000
のとき以来かな?4年も前か)
なので、勘が鈍りまくってて手こずりました^^;
さて、例によっていくつか留意点があります。
・5ch自身のHTMLを変換した場合に比べ、datの精度はやや低いと思います。
(不要な情報を取り除き切れていない)
専ブラで見る分には多分あまり支障はないと思いますが。
あと、例示いただいたスレでしか確認していないのでそのサイトの他の板等に
適用できるかはわかりません。
・スレ中に「前スレ」とか「関連スレ」とかで5ch,bbspinkの他のスレへの
リンクが書き込まれていた場合、そのサイト(スマホピュアデモ)内へのリンクに
変換されてしまうようです。
(
https://www.kyodemo.net/sdemo/r/ascii/1518391672/1
のレス内リンク等)
これを元のURLに変換するのは困難なので、必要であれば手修正してください。
・色々試してみたのですが、そのサイトからスレの全レスを一度に取得する方法が
見つかりませんでした。URLの最後に 1- と付けても50レスしか取得できません。
1-1000とかしてもだめでした。となると、n51- とかして50レスずつ取得して結果を
エディタで貼り合わせる必要があるかもしれません。
と、また前置きが長くなってしまったので正規表現等は次で。
1048
:
◆/vmukiyuzw
:2021/10/02(土) 22:53:08
>>1047
続き
コメント:
# スマホビュアデモ(試β5)を変換-20211002
前処理:
# 投稿日とIDが離れているのをつなげる
s`</span><a href=[^>]*?><span class="clid">([^<]*?</span>)` ID:$1`g
アンカー削除:
false
変換結果式:
$2<>$3<>$4<>$5<>
後処理:
s`</?div>``g
正規表現:
m`
<strong>([0-9]+).+? #レス番
<span\ class="clname">(.*?)</span> #名前欄
(?:\[<span\ class="clmail">(.*?)</span>\]\ ?)? #メール欄
<span\ class="cldate">(.*?)</span>.*? #投稿日
<div\ class="clmess"[^>]*?>(.*?)</article> #レス本文
`mikx
1049
:
1046
:2021/10/03(日) 11:23:42
こんにちは。 ◆/vmukiyuzwさま
いつもいつもありがとうございます。<(_ _)>
(4年前のソイツも自分です。 ^^: )
レスくれてたの気づかず徹夜でキーボードマクロ使える
エディタで切り貼りしてました。(1スレも終わらず)
コレ面倒くさいだろなぁと思いながらもお願いした事も
あって、レスあったの見てウルっときちゃいました。
本当にありがとうございました。<(_ _)>
1050
:
1049
:2021/10/03(日) 23:53:53
こんにちは。
不具合出ましたので報告いたします。
その12
https://www.kyodemo.net/sdemo/r/ascii/1580015540/n901-
942のワッチョイ(?)辺りでおかしくなり、943,944を巻き込み
1つのレスとなるようです。
htmltodatのレビュー窓では1つになりませんが、スレ番が
太文字に。
1051
:
◆/vmukiyuzw
:2021/10/04(月) 02:15:24
>>1050
さん
とりあえず、ワッチョイのあるレスで不具合が出るのは修正出来たと思います。
ワッチョイの表示が必要なければその行を削除orコメントアウトしても
動くと思います。
コメント:
# スマホビュアデモ(試β5)を変換-20211004
前処理:
# 投稿日とIDが離れているのをつなげる
s`</span><a href=[^>]*?><span class="clid">([^<]*?</span>)` ID:$1`g
# ワッチョイ欄を名前欄とつなげる
s`</span>(\(ワッチョイ[^)]*?\))`$1</span>`g
アンカー削除:
false
変換結果式:
$2<>$3<>$4<>$5<>
後処理:
s`</?div>``g
正規表現:
m`
<strong>([0-9]+).+? #レス番
<span\ class="clname">(.*?)</span>.*? #名前欄
(?:\[<span\ class="clmail">(.*?)</span>\]\ ?)? #メール欄
<span\ class="cldate">(.*?)</span>.*? #投稿日
<div\ class="clmess"[^>]*?>(.*?)</article> #レス本文
`mikx
1052
:
1050
:2021/10/04(月) 07:48:02
おはようございます。
Doeでもちゃんと表示されました。
いつも助かってます。
正規表現は理解できませんが、リンク表記を
弄れるようになりました。
ありがとうございました。<(_ _)>
1053
:
1052
:2021/10/04(月) 12:33:22
こんにちは。
その3の535がトリップ?で読めませんでした。
他12スレはdat化できました。
https://www.kyodemo.net/sdemo/r/ascii/1540703439/n501-
時間のある時で構いませんので修正お願いします。
1054
:
1053
:2021/10/04(月) 15:59:02
正しいかは不明ですが以下のようにしましたら変換はできました。
<span\ class="clname|clcap">(.*?)</span>.*? #名前欄
clcap|lname|clcapを先にするとエラーに。難しい。
1055
:
◆/vmukiyuzw
:2021/10/04(月) 17:22:50
>>1054
さん
それエラーにはならないでしょうが変換結果めちゃくちゃになってません?
|(or表現)で文字列を並べるとき、カッコでくくらないといけません。
かつ、ただのカッコだとキャプチャされちゃう(あとで$1,$2`とかで参照される
対象になってしまう)のでそれを避ける表現が必要です。
とりあえず以下のようにしてください。
<span\ class="(?:clname|clcap)">(.*?)</span>.*? #名前欄
1056
:
◆/vmukiyuzw
:2021/10/04(月) 20:33:43
あと、この例のようなキャップユーザー?のレスって、dat上でも名前欄にfontタグが
ついていて、専ブラで表示しても色が変わるようになってるんですよね。
一応それに準拠するなら、前処理に以下を追加してください。
(気にならないのであればやらなくてもいいと思います。また、色はそのサイトでの
表示に合わせただけで、元のbbspinkのスレでの色とは違うかもしれません)
# キャップユーザーの名前の色を変える
s`(<span class="clcap">)(.*?)(</span>)`$1<font color=#ff8c00>$2</font>$3`g
1057
:
<font color=
◆yCIuSJMu.o
:2021/10/04(月) 21:21:11
◆/vmukiyuzwさん、何度もありがとうございます。
訂正 clcap|lname とclcapを先にするとエラーに。難しい。
>>1054
の"clname|clcap"を試した時は535だけ読んで変換させ
ましたのでOKだったみたいです。
実際はclnameをclcapに変更して変換させたものを使いました。
JaneDoe View α ( build date: 1507130036 )ではトリップの
色は緑色から変化せずでしたが、JaneStyleではオレンジに
なりました。
本当に助かりました。ありがとうございました。<(_ _)>
1058
:
名無しさん
:2021/10/05(火) 09:14:56
ボード一覧取得URLを
http://menu.2ch.net/bbsmenu.html
に
変更してカキコ。
1059
:
1057
:2021/10/07(木) 16:50:03
こんにちは。お世話になっております。
https://www.kyodemo.net/sdemo/r/ascii/1514602063/n851-
ここの897が変換されません。
スレ番が処理されないようで
<strong><a href="897?na" class="button l-button" rel="nofollow">897</a></strong>:
ガンバッテみたのですがこれで良いでしょうか?
前処理の最初でやってみましたが・・・。
前処理:
#897error
s`<strong><a href="[^>]*?([0-9]+).+?</a>`<strong>$1`g
よろしくお願いします。<(_ _)>
1060
:
◆/vmukiyuzw
:2021/10/08(金) 00:00:33
>>1059
さん
対応としては
> 前処理:
> #897error
> s`<strong><a href="[^>]*?([0-9]+).+?</a>`<strong>$1`g
このやり方で問題ないと思います。
ただ、その897番目のレスには、変換が出来てもレス本文として表示できる要素が
何もないですね。変換元のhtmlソースを見ると
https://www.kyodemo.net/sdemo/a/ascii/1514602063/897.gif
に対する<a href〜 タグはあるのですがそれに対応する本文がないので
専ブラでは何も表示できないと思います。
これはhtmltodatとしてはどう対処すべきか全然わからないです。
(bbspinkでの元のレスがどういうものだったのかわからないしそのサイトで
どういう変換ルールでそういうことになったのかもわからない、調べるには相当
大変そう)
なので、とりあえず上のリンクをdatのスレ本文中に貼るので勘弁してもらえませんか?w
私が見る限り多分大した内容ではないのでこのレスで見てもらうだけでも
いいかもしれませんw
1061
:
名無しさん
:2021/10/08(金) 00:52:29
おお、これで良かったのか。
◆/vmukiyuzwさん、お忙しいところ時間割いて
下さりありがとうございます。<(_ _)>
元はその画像のAAみたいです。
https://ikioi5ch.net/cache/view/ascii/1514602063/897
(話の広げようが無い・・・w)
ありがとうございました。
1062
:
◆/vmukiyuzw
:2021/10/08(金) 03:19:10
んんん?そこのサイト(ikioi5ch.net)だと50レス毎区切って
切り貼りしなくても1000レスいっぺんに読めますね?
www.kyodemo.net から取得するより楽なのでは??と思ったら
ID欄がちゃんと取れてないのか。なんか残念な感じですね。
(まあそれ言ったら現5chのread.cgiも、ID周りの昔から積み重ねた
ごちゃごちゃを整理し切れてなくて投げだしてる感じですけどね。
これはhtmltodatにももちろん影響あるんで一言言わずにはいられないw)
1063
:
名無しさん
:2021/10/08(金) 06:48:13
おはようございます。
はい。区切らずいっぺんで読めるのですが
ID消えてたんでkyodemoでお願いしました。
性分ですね。w;
1064
:
名無しさん
:2022/04/21(木) 15:17:02
こんにちは。
上記
https://ikioi5ch.net
のソースを元に自分で書いてみましたがうまくいかず…
<div class="post" id="15" data-date="NG" data-userid="ID:LxZOZESx0" data-id="15">
<div class="meta">
<span class="number">15</span>
<span class="name"><b>以下、名無しにかわりましてVIPがお送りします</b></span>
<span class="date">2005/07/28(木) 12:21:41</span>
<span class="uid">ID:LxZOZESx0</span>
</div>
<div class="message">
<span class="escaped">
とりあえずアンカープリーズ </span>
</div>
</div>
メール欄リンクは全てオフの様でしたので
m#<span\ class="number">([0-9]+).+?<span\ class="name"><b>(.*?)</b></span>.*?<span\ class="date">)(.*?)</span>.*?<span\ class="uid">(.*?)</span>.*?<span\ class="escaped">(.*?)</span>#mik
見よう見まねで書いてみましたがやっぱり動きません。
どこが間違っているのかもわからずじまい…
時間のある時で大丈夫ですので、よかったらご教授願えませんか?
よろしくおねがいします。
1065
:
名無しさん
:2022/04/23(土) 23:54:47
>>1064
さん
お書きになった正規表現をそのまま試してみると
unmatched close parenthesis
というエラーメッセージが出ます。これは正規表現の文法エラーで
「括弧の対応が正しく取れてないよ」と言われてます。
<span\ class="date">) ←この部分の括弧が余分みたいです。
この括弧を消したところ、一応変換はできましたが、名前欄・メール欄・
投稿日欄とかおかしいです。これは、この正規表現では各欄の位置を
正しく認識できてないという事になります。
htmltodatのreadme.txtには、
$1:レス番号
$2:メール欄
$3:名前・トリップ
$4:投稿日・ID
$5:レス内容
となるように正規表現を設定する、とあります。この$1,$2,…というのは
正規表現中に現れる括弧で囲まれたグループ( ([0-9]+) とか (.*?) とかですね)
に順に番号が振られるものになります。
(この辺はreadmeでは説明不足ですね、申し訳ない。あと、なぜそれに合わせないと
いけないのかは私が勝手に決めた仕様だからとしか言いようがないです。まあ当時の
2chのread.cgiの形式になるべく近づけた形なのですが)
で、お書きになった正規表現をみると
$1:レス番号
$2:名前欄
$3:投稿日
$4:ID
$5:レス内容
となってるのをお分かりいただけるでしょうか。
なので、改善すべき点は2つあって
・メール欄に当たるグループを作る
・投稿日とIDのグループを一つにまとめる
という事になるかと思います。
一つ目は割と簡単で、名前欄よりも前に適当に () を入れればいいです。
(グループは順番さえ合っていれば中身は空でも構わない)
二つ目ですが、この
https://ikioi5ch.net
のhtmlがちゃんとID欄を拾って
くれていれば他に考えようがあったのですが(前処理または後処理で投稿日欄と
ID欄を強引にくっつける等)、意味のないID欄は無視するのがスッキリしていい
のではないかと思います。
<span\ class="uid">(.*?)</span>.*?
の部分をまるっと削除します。
で、その辺を修正した結果は以下です。
m#<span\ class="number">([0-9]+).+?()<span\ class="name"><b>(.*?)</b></span>.*?<span\ class="date">(.*?)</span>.*?<span\ class="escaped">(.*?)</span>#mik
まだ考慮事項があるのですが長くなってきたので次で。
1066
:
名無しさん
:2022/04/24(日) 01:26:32
前レスで書いた正規表現ですが、「うふ〜ん」のレスには対応できてません。
( <span\ class="name"> や <span\ class="date"> などの要素がそもそもないため
マッチしない)、
変換後に変換警告で「レスxxx-xxxの間が飛んでいます」のメッセージが出ると思います。
で考えたのですが、前レスで書いた「グループ化(括弧でくくる)」は後ろに ? をつけて
(xxx)? のようにするとそのグループがあってもなくてもよい(正しい用語では0回または
1回マッチする)ようにできるので、名前にマッチする部分と投稿日にマッチする部分を
グループ化して後ろに ? をつけてみました。
括弧をつけてグループ化すると $1,$2…とカウントされる対象になってしまうのですが
括弧の最初を (?: としておくとカウントされないです。
(カウントとか自分用語使ってますが正式には捕獲とかキャプチャとかいうみたい)
で、その部分含め書き直したのが以下。
m#<span\ class="number">([0-9]+).+?()(?:<span\ class="name"><b>(.*?)</b></span>.*?)?(?:<span\ class="date">(.*?)</span>.*?)?<span\ class="escaped">(.*?)</span>#mik
ついでに拡張表現で書くとこんな感じ
m`
<span\ class="number">([0-9]+).+? #レス番
() #メール欄(ダミー)
(?:<span\ class="name"><b>(.*?)</b></span>.*?)? #名前欄
(?:<span\ class="date">(.*?)</span>.*?)? #投稿日
<span\ class="escaped">(.*?)</span> #レス本文
`mikx
…と書いてきたけど
>>1064
のレス見るとID取れるスレもあるって事なの?
(前はID取れないから別のサイトって話だったのに)
そういうときは具体的なスレのURL書いて欲しかったな…
1067
:
名無しさん
:2022/04/24(日) 13:14:14
>>1065-1066
お忙しい中お返事ありがとうございます!
まさかお返事いただけるとは思ってませんでした!
私が今収集しているログは全てIDまで取っているようです。
参考URL
https://ikioi5ch.net/cache/view/news4vip/1136490878
スレのラストが999になっていたり、途中からアンカーが1つズレたりしているので
「うふ〜ん」「あぼーん」等は無かった事にされ、レス番がその分繰りあげられてる…?
初めからURL出しておくべきでした。
申し訳ないです。
やっと理解できてきました。
()の登場順に変数が($1-$5まで)割り当てられるって意味ですね。
序盤にCSSのガラガラが山ほど出てきてエラーが出ますので
s#<style(.|\s)*?</style>##igk
これを前処理に追加した所無事に変換できました!
IDですが、
<span class="number">186</span>
<span class="name"><b>以下、名無しにかわりましてVIPがお送りします</b></span>
<span class="date">2006/01/06(金) 07:08:07</span>
<span class="uid">ID://9DNy9k0</span>
これを前処理で「</span><span class="uid">」を「 (半角スペース)」に置き換え、
実行しようと今朝から今まで試行錯誤しました。
前処理
s#<style(.|\s)*?</style>##igk
s#</span>(\n|\s)+?<span class="uid"># #igk
結果これでうまくいったのでご報告させて頂きます。(色々間違えてると思うのですが)
本当に助かりました!!ありがとうございました!
1068
:
名無しさん
:2022/06/23(木) 16:00:53
いつも使わせていただいております。
vipのスレをhtmltodatで変換すると、5chから取得したdatにある書き込み時間とIDの間のスペースが消えてしまいます。
今は手動でスペースを追加していますが、よろしければご対応して頂ければ幸いです。
1069
:
◆/vmukiyuzw
:2022/06/24(金) 01:59:40
>>1068
さん
まず、うまくいかないスレのURLを書いてほしかったです。
「vipのスレ」と言われても、現役スレをhtmltodatを使う必要は
ないでしょうから何らかの形の過去スレであると思われます。
ならこちらで確認する(スレを探す)のは面倒なのはご理解いただけますでしょうか。
現役スレと過去スレが同じcgiで吐かれてるって保証もないので。
でもとりあえず、ニュー速VIP
(
https://mi.5ch.net/news4vip/
のことでいいんですよね?)
で、いくつかのスレで
>>1011
の正規表現等で試してみましたが、書き込み日時とIDの間のスペースが
消える事象はこちらでは確認できませんでした。
1070
:
名無しさん
:2022/06/24(金) 13:20:23
>>1069
お返事ありがとうございます!
おっしゃる通りmi鯖の過去スレです。言葉が足らず申し訳ございませんでした。
試して頂きありがとうございます。
事象は確認出来なかったとのことで、私の使ってる変換オプションを
>>1011
の正規表現等と照らし合わせてみた所、
「透明あぼーんを補う」にチェックが入っておらず、チェックを入れた所、スペースが消える事象は解消されました。
お手数おかけして申し訳ございませんでした。ありがとうございました!
1071
:
名無しさん
:2022/09/13(火) 22:47:05
URLコピペしてスレ取得しようとしたら
Socket Error # 10054
Connection reset by peer.
なるエラーが出て取得失敗するようになりました
ネットブラウザからhtmlファイルとして保存はできるので
ローカルに落としたそれをhtmltodatに食わせて凌いでるけど面倒くさいです
これってソフトの設定方でどうにかなるものでしょうか
1072
:
名無しさん
:2022/09/13(火) 23:57:49
>>1071
さん
こういうお問い合わせには、該当のURLを書いていただかないと
こちらで調べようがないと何度も書いてるのですが、このスレも
いつの間にか20年にもわたりますし1000レスを大幅に超えてますし
仕方ないですかね…
個人的経験でしかないですが
> Socket Error # 10054
> Connection reset by peer.
こういうエラーはたいてい相手サーバーが死んでる時ですかね。
もしくはプロキシ経由で接続しててそのプロキシ死んでるとか。
ローカルプロキシを使う設定にしておきながらローカルプロキシを
起動し忘れてる、なんてのは私はしょっちゅうやります。
1073
:
◆/vmukiyuzw
:2022/09/14(水) 01:29:16
あれ?トリップ外れちゃったけど
>>1072
は私です
1074
:
1071
:2022/09/14(水) 06:53:06
>>1072
質問内容の不備大変失礼しました
また、今に至るも迅速なサポート続けておられることに感謝と敬意を表します
先質問の件ですが、5ちゃんねるの様々な板で試してみたところスレ中に記述してある過去ログのURL全てで同じエラーが返ってくる状態だったので例示に及ばずと勝手に判断してしまいました
代表として一番不便を被ってる市況2のものを抜粋・提示します
https://hayabusa9.5ch.net/test/read.cgi/livemarket2/1663088406/1
より
https://hayabusa9.5ch.net/test/read.cgi/livemarket2/1663077424/
proxyは利用しておらず、ネットはワイモバイルのポケットwifiを使用しています
ネットブラウザ(firefox)ではアクセスできることとの整合性が取れないので質問差し上げた次第です
何かお気づきになりましたらサジェッション頂けるとありがたいです
dat化できない類の問題ではないので本質問は埒外とのことでしたら了解致します
1075
:
名無しさん
:2022/09/14(水) 10:11:51
ファイアーウォールでブロックされてるとか?
1076
:
◆/vmukiyuzw
:2022/09/14(水) 21:38:00
>>1074
さん
>>1071
のレス内容を見るに、今までその環境で使えていたが
急にエラーが出るようになったということでしょうか?
貴方が自分の環境を変えたのでなければ、やはりサーバー側の
問題である可能性が高いと思うのですが、もしそうであれば
もう解消してませんか?今でもエラー出ますか?
> ワイモバイルのポケットwifi
つい最近、小規模だけどソフトバンク回線の通信障害があったと
耳にしました。たまたまそのタイミングであった可能性は
あるかもしれません。それがこのエラーにつながるのかどうかは
わからないですが。
1077
:
1071
:2022/09/15(木) 18:47:01
>>1076
ご返信ありがとうございます。先ほど試してみたところ何の問題もなくスレ取得できました。自環境に変更は行っておりません。
症状発生して即1071投稿したわけではなく数日様子見してからの投稿だったのですが、類似の質問・経験談が上がってこない所を見るとレアなケースのようで。
以後トラブル発生の際はもう少し様子見期間を延ばすことを心がけます。
なんともバツの悪い話で申し訳ございませんでした。
1078
:
◆/vmukiyuzw
:2022/10/20(木) 07:51:34
唐突ですが
「5ch過去ログ倉庫を見やすくするためスレッドキーをタイムスタンプに変えて表示」
てスクリプトを作りました。
http://mukiyu.g.ribbon.to/
の 5chKakologSouko てやつです。
経緯ですが、以前
>>1035-1037
みたいなやり取りがあって、その中で
>>1036
さんに過去ログを探す便利なサイトをご紹介頂き、時々
使っていました。ただ、最近そのサイトはあまりうまく動いてない
みたいです。(過去ログを取りこぼしてることが多い)
で、自分が提案した過去ログ倉庫ですが、確かに見づらく、
>>1037
でブックマークレットを書いてみたのですがこの用途には
使い勝手がよくないと思ったので、Chrome等のアドイン
Tampermonkey のスクリプトに書き直してみました。
こういう過去ログの探し方をする方がどれだけいるかわかりませんが
そういう方には役に立つかもしれません。
1079
:
◆/vmukiyuzw
:2022/10/21(金) 06:50:43
>>1078
で公開したスクリプトですが少し修正しました。
「5ch過去ログ倉庫を見やすくするためスレッドキーをタイムスタンプに変えて表示」
と説明してましたが、スレッドキー(unix timeの9-10桁の数字)も
タイムスタンプちゃうん?という気がして(タイムスタンプの定義は何?て話にも
なりそうで面倒なので)、
「5ch過去ログ倉庫を見やすくするためスレッドキーを年月日時分秒表記に変えて表示」
と、説明を変更することにしました。
スクリプトの処理内容は変更はないのでバージョンは変えてません。
スクリプト内のコメントは変更してます。
1080
:
名無しさん
:2023/06/14(水) 05:08:00
失礼します
5chの仕様が変更されたようなので正規表現をお願いできないでしょうか?
それと
http://mukiyu.g.ribbon.to/
が利用不能になっております
1081
:
名無しさん
:2023/06/14(水) 20:53:29
ブラウザでスレを表示して右上の設定ボタンから「クラシック」をクリックすると
read.cgiの後ろに「c」ディレクトリが付いてるURLに飛ぶので、このURLにアクセスするようにすれば見れそうですね。
C#版のhtmltodatByFiddler v3.04ベースですが、
OnBeforeRequest.cs.txt
の
oSession.url = v.g(1) + "/test/read.cgi/" + v.g(2) + "/" + v.g(3) + "/";
の行を
oSession.url = v.g(1) + "/test/read.cgi/c/" + v.g(2) + "/" + v.g(3) + "/";
って感じで「c」ディレクトリを追加してあげれば見れるようになりました。
1082
:
◆/vmukiyuzw
:2023/06/14(水) 22:38:15
>>1080
さん
>>1011
を元に修正しました。
コメント:
# 5chのread.cgi 08系からの出力を変換-2023/06/14
# 5chのcgi仕様変更(08.0d)に対応
URLの変換:
# htmltodat 0.11.10以降を使っていればこれはなくてもよい
s#https?://(.+?)/test/read\.cgi/(.+?)/(\d+)/?.*#http://$1/test/read.cgi/$2/$3/#
前処理:
# メール欄にURLが貼られた時のとりあえず対応
s#(<a href="mailto:)([^<>]*?)(?:<a href[^>]*?>)?([^<]*?)(?:</a>)?([^>]*?)(">)#$1$2$3$4$5#ig
# ガラガラ削除
s#^(.|\n)*?<div id="thread"##igk
アンカー削除:
false
透明あぼーんを補う:
true
後処理:
# BE周りの処置
s#</span><span class="be .*?><a href=".*?//be\.(?:[25]ch\.net|bbspink\.com)/user/(\d+).*?>\?(.*?)</a># BE:$1-$2#ig
# アンカータグ削除(レスアンカーに対するタグは削除しない)
s#<a(?: class="image")? href="http.*?>(.*?)</a>#$1#igk
# お絵かき機能等のimgタグを除去
s#<img src=".*?(//.*?)">#sssp:$1#igk
# IDの前に付くようになった不要なタグを除去
s#</span><span class="uid"># #igk
# 07.2.1で追加された不要な要素を除去
s#<><span class="AA">(.*?)</span><>#<>$1<>#igk
s#(target="_blank").*?>#$1>#igk
正規表現:
m`
(?# レス番号)<span\ class="postid">([0-9]+)</span>
(?# 名前)<span\ class="postusername"><b>
(?# メール欄)(?:<a\ href="mailto:(.*?)">)?(.*?)(?:</a>)?</b></span>
(?# 投稿日・ID)</summary><span\ class="date">(.*?)</span>
(?# レス内容)</details><section\ class="post-content">(.*?)</section>
`mix
1083
:
◆/vmukiyuzw
:2023/06/14(水) 23:20:50
自分が何をやっていたのか思い出すのに苦労しましたw
>
>>1011
を元に修正しました。
て言っても5年も前ですもんねw
> それと
http://mukiyu.g.ribbon.to/
が利用不能になっております
ribbonネットワーク(ribbon.to)自体つながりません;;
会社自体亡くなってしまったのかも…
この際なのでGitHubあたりへの移動を検討していたのですが
別件で忙しくなってしまい頓挫中です。
あと、書かないといけないを思っていたのですが、
昨年使っていたPCが故障してしまい使えなくなりました。
htmltodatのソースコードはバックアップしていたのですが
開発環境を復旧することができず、今後もうメンテナンスをする
ことはできません。
今更別環境で書き直すようなものでもないし、今後何かの事情で
使えなくなるような状況になっても多分対応できないと思います。
ご了承ください。
1084
:
◆/vmukiyuzw
:2023/06/14(水) 23:33:17
>>1081
さん
情報ありがとうございます。
当面その方法でしのげそうですね。
htmltodatByFiddlerのスクリプトは手元では修正して動くようになったのですが
どうお知らせするかと考えてるところです。
1085
:
◆/vmukiyuzw
:2023/06/14(水) 23:42:43
プログラミングわかる人向けですが
read.cgi 何々用と並んでる最後 のelse の前に
}else if (oBody.ismatch(@"<div id=""thread""")){ //read.cgi 08用
// htmltodat変換メイン
oBody = oBody.htmltodat(@"<span class=""postid"">(\d+)</span><span class=""postusername""><b>(?:<a href=""mailto:(.*?)"">)?(.*?)(?:</a>)?</b></span></summary><span class=""date"">(.*?)</span></details><section class=""post-content"">(.*?)</section>");
// BE周りの処理
//be.bbspink.comが追加されていたので対応 v3.0
oBody = oBody.replace(@"</span><span class=""be .*?><a href="".*?//be\.(?:[25]ch\.net|bbspink\.com)/user/(\d+).*?>\?(.*?)</a>"," BE:$1-$2");
oBody = oBody.replace(@"<img src="".*?//(img\.[25]ch\.net/.+?)"">","sssp://$1");
//read.cgi 07.0.1 からIDの前に付くようになったタグを除去
oBody = oBody.replace(@"</span><span class=""uid"">"," ");
1086
:
◆/vmukiyuzw
:2023/06/15(木) 01:57:51
おっと、そのちょっと前に
//datが存在しないなどまっとうなレスポンスでない場合404を返して抜ける(ここはまだ要検討)
if (oBody.ismatch(@"<dl ")||oBody.ismatch(@"(<div|span) class=""number"">")){
}else{
oSession.responseCode = 404;
return;
}
てif文があるんですが、新しいread.cgiではこの条件を通らないので
if (oBody.ismatch(@"<dl ")||oBody.ismatch(@"(<div|span) class=""number"">")||oBody.ismatch(@"<div id=""thread""")){
にする必要があります。
1087
:
名無しさん
:2023/06/22(木) 22:22:44
>>1084
お世話になっております。
>>1081
の方法だと、5chは見れるようになるのですが、
bbspinkのほうはまだ旧仕様なので、見れなくなってしまいます。。。
1088
:
◆/vmukiyuzw
:2023/06/23(金) 22:09:01
>>1087
さん
htmltodaByFiddler をバージョンアップしました(Ver 3.05)
3.05(2023/06/23)
・5chの read.cgi の変更に対応
https://github.com/mikiyu71/htmltodat
↑
今後のリリースはここ(GitHub)で行います。
変更内容は
>>1085-1086
で書いた内容を反映させたものです。
5chの read.cgi が ver 08 に上がってそれに合わせて枝分かれが
増えた形です。
修正したのは OnBeforeResponse.cs.txt のみです。
この変更を適用するなら、
>>1081
さんの変更は不要になります。
1089
:
◆/vmukiyuzw
:2023/06/23(金) 22:55:28
>>1088
ディレクトリ名 はhtmltodat としていますが、見てもらえれば分かりますが
中身は htmltodatByFiddler です。
せっかく GitHub にしたんだから過去の履歴も追えるようにすべきだった
かもしれませんが、面倒すぎるんでアップしたのは最新版のみです。
今後修正が必要になった場合は GitHub 上での履歴としていけると思います。
あと、htmltodat.exe に関しては、
>>1083
で書いた通り今後アップデートできる
見込みはないので、GitHub にはアップしません。新しくユーザーが増えることも
なさそうですし。
ただ、「ここの正規表現どうしたらいい?」みたいなお問い合わせは今後も
受け付けますのでよろしくお願いします。
1090
:
◆/vmukiyuzw
:2023/06/24(土) 03:14:03
というか、
http://mukiyu.g.ribbon.to/
にアクセスできるようになってるみたい…
(ribbon.to 自体には自分とこからでは相変わらず繋がりませんが)
ここ数日 GitHub へ移すためにやった苦労は何だったんだ…
(いや勉強になったし今後も役立ちますが)
どうしますかね。
http://mukiyu.g.ribbon.to/
から GutHub に飛ぶような
リンクを貼るようにするのがいいのかな。
1091
:
名無しさん
:2023/06/25(日) 12:05:16
>>1088
1087です。
Ver. 3.05に変更したところ、問題なく見れるようになりました。
ありがとうございます。
1092
:
◆/vmukiyuzw
:2023/10/11(水) 04:06:42
昨日ちょっと専ブラから5chにつながらないときがあって
chromeから見てたのですが、read.cgiのバージョン表記が
read.cgi ver 07.4.4 2023/10/10
となっていて、なんかバージョン番号が先祖返りした感じですね。
しばらくなくなってたエッチな広告もなんか復活してますし…
とはいえ、htmlの形式自体は
>>1082
以降で対応してきた08系と
特に変わりはないようなので問題はなさそうですが。
1093
:
◆/vmukiyuzw
:2023/12/21(木) 05:43:46
>>1078
のスクリプトなのですが、最近5chの過去ログ倉庫が文字化けだらけで使い物にならん…
と思ってたら運用情報板に「過去ログ見たいならscを使え」みたいなスレが立ってて、
なるほどそういう手もあるかと思いスクリプトを改修してました。
でも 5ch.net と 2ch.sc では同じ板でもサーバ名が違う…
これはスクリプトレベルではどうしようもないので、運用上で回避することを
考えていました。
でも、ここ数日で文字化けは(全板かどうかわかりませんが)改善されたようなので
スクリプト改修の公開は保留にします。
1094
:
名無しさん
:2024/02/25(日) 12:58:16
htmltodatでしたらばの過去ログで2012年〜2013年は正規表現の項の「DAT2HTML0.26」で読み込めますが
2013後半〜以降の過去ログ・現行ログを取得する方法はありますか?
例としてここのURLで試しましたが正規表現が正しくないと表示されました
https://jbbs.shitaraba.net/bbs/read.cgi/computer/1929/1038588508/
>>864
氏のprmを試した見ましたがうまくいきませんでした
1095
:
◆/vmukiyuzw
:2024/02/28(水) 00:41:50
>>1094
さん
したらば過去ログの話題は久々ですね、それこそ
>>864
さんの話題以来かな。
まず、したらばは過去ログと現行ログを分けて考えるする必要があると思います。
過去ログについては昔も今も正規表現「jbbs過去ログ」が使えると思います。例として
http://jbbs.shitaraba.net/bbs/read.cgi/computer/1929/1024130759/
(
>>864
さんもテストに使われたこの板の過去ログ。2002年のもの)
https://jbbs.shitaraba.net/bbs/read_archive.cgi/sports/43156/1700655438/
(したらばトップから適当に探した過去ログ。2023年のもの。ただしレス番飛びが
あるようで警告は出る)
20年を隔てても使えるようですw
現行ログについては以前
>>622
で考えたことがあるのですが、そのときとは
read.cgiが吐くhtmlの形式がかなり変わっており同じ手は使えないようです。
したらばにはrawmode.cgiという5chのdatと近い形式のデータを返す機能が
あるので、これを使う方向で考えてみました。。
(以前、
https://jbbs.shitaraba.net/bbs/read.cgi/computer/1929/1038409548/124
で考えたことがあるのですが、レス番飛びを検出できないのであまりよい方法ではない)
いざやってみると思ったより面倒でしたが…^^;
コメント:
したらばの現行ログをrawmode.cgi経由で変換する
URLの変換:
s`read\.cgi`rawmode\.cgi`
前処理:
s`(\d+)<>(.*?)<>(.*?)<>(.*?)<>(.*?)<>(.*?)<>(.*?)\\?\n`$1<>$2<>$3<>$4 ID:$7<>$5<>$6<>\n`img
透明あぼーんを補う:
true
変換結果式:
$2<>$3<>$4<>$5<>$6<>
正規表現:
m`(\d+)<>(.*?)<>(.*?)<>(.*?)<>(.*?)<>(.*?)<>(.*?)`ig
1096
:
◆/vmukiyuzw
:2024/02/28(水) 00:49:00
>>1095
と長々と書いときながらなんですが、正直言うと
したらばに対応してる専ブラ使う方が絶対楽だと思いますよ。
Xenoとかおすすめです。
上で書いたような、過去ログと現行ログの違いもユーザーが
意識せずとも勝手にやってくれますし。
「いやいや使い慣れたブラウザで見たいんじゃー」
てことかもしれませんが、それならしたらば対応専ブラから
dat持っていけばいいんじゃない?と思います。
ここで質問されてる以上、htmltodatで作ったdatを持って
いくのでしょうから、それを対応専ブラにやらせると考えれば
手間はそれほど変わらないのでは。
1097
:
1094
:2024/02/28(水) 17:42:11
返信ありがとうございます
作成して頂いたprmでタイトルを取得できなかったものの現行ログのdat化が出来ましたありがとうございます
提示して頂いた過去ログでは「jbbs過去ログ」を試したところ
https://jbbs.shitaraba.net/bbs/read_archive.cgi/sports/43156/1700655438/
ですが私の環境では正規表現が正しくないと表示され返還できませんでした
同様に以下でも試しましたが同じです。おま感でしょうか
https://jbbs.shitaraba.net/bbs/read_archive.cgi/internet/14562/1533538138/
Xenoでしたらばが読み込めるのは盲点でした要は使い分けですね
htmltodatは現状2ch時代の過去ログが閲覧できない状態でも
み○ずんやビュアデモといった所からdat化出来る為大変重宝しております
1098
:
◆/vmukiyuzw
:2024/02/29(木) 01:35:49
>>1097
さん
> 作成して頂いたprmでタイトルを取得できなかったものの
すみません、タイトルを取得できないのは私のミスです。
prmファイル中の
変換結果式:
$2<>$3<>$4<>$5<>$6<>
これを
変換結果式:
$2<>$3<>$4<>$5<>$6
にしてください(最後の<>が余分だった)。
> 私の環境では正規表現が正しくないと表示され
これはわからないですね。
> 同様に以下でも試しましたが同じです。
とあげていただいたスレもこちらでは変換できましたし。
書かれてないですがこの板(私が例示した一つ目)は変換
できたのでしょうか?
「jbbs過去ログ」の正規表現の内容が違っているのかな?
「jbbs過去ログ」の正規表現は
m#<DT><A.*?>([0-9]+).+?(?:<A HREF="mailto:(.+?)">)?<B> ?(.*?) ?</B>(?:</A>|</FONT>)(?: 投稿日)?: ?(.*?)(?:<BR>)?<DD>(.*) ?<BR><BR>#mik
なのですが、これを直接htmltodatの正規表現欄にコピペして
やってみてもダメですかね?
(これは
>>864
で書かれた正規表現と同じものなのですが
>>864
さんはこれでうまくいったようです)
1099
:
1094
:2024/02/29(木) 18:36:41
ありがとうございます
何度も御対応して頂き本当に申し訳ない
画像を含めて結果だけ報告します
前提としてソフトは再起動後の状態からそれぞれ試しています
テストその1
http://jbbs.shitaraba.net/bbs/read.cgi/computer/1929/1024130759/
【画像】
https://i.imgur.com/Hc9EgZl.jpeg
上記スレでは正規表現一覧内の[jbbs過去ログ]で問題無くdat化する事が出来ました
ノルマンディーOC 【99】
https://jbbs.shitaraba.net/bbs/read_archive.cgi/sports/43156/1700655438/
上記スレでは[jbbs過去ログ]及び[jbbs過去ログ改]と
【m#<DT><A.*?>([0-9]+).+?(?:<A HREF="mailto:(.+?)">)?<B> ?(.*?) ?</B>(?:</A>|</FONT>)(?: 投稿日)?: ?(.*?)(?:<BR>)?<DD>(.*) ?<BR><BR>#mik】
を直接入力及び>864氏のprmも試した所をした所dat化は無理でした
htmlもそのまま出力されてしまっている様です
【画像】
https://i.imgur.com/KQwdUVU.jpeg
現行ログの件ですが
【画像】
https://i.imgur.com/Ep94tap.jpeg
「$2<>$3<>$4<>$5<>$6」にしてもスレタイを取得できなかった為
やはり私の環境に何かファイルの欠落があるのかもしれません
返信頂きありがとうございました
以下はテスト環境です
htmltodat Ver 0.11.12
エディション Windows 10 Home
バージョン 22H2
インストール日 2021/05/17
OS ビルド 19045.3930
エクスペリエンス Windows Feature Experience Pack 1000.19053.1000.0
1100
:
◆/vmukiyuzw
:2024/03/01(金) 01:02:09
>>1099
さん
なんとかわかった気がします。
まず過去ログに関してですが、
受信オプション - HTTPヘッダの追加 で
User-Agent: Monazilla/1.00
を指定してみてください。正規表現は「jbbs過去ログ」でいいです。
これで、お試しくださった「テストその1」も
「ノルマンディーOC 【99】」も変換できると思います。
私の環境でうまくいっていたのは、一旦このUAの指定をした後、リセット
しないままテストしていたためと思われます^^;
なぜそういうことになるのかはしたらば側の事情になるので推測に
過ぎないですが、
・(最初のご質問
>>1094
にあった)多分2013年頃に過去ログhtmlの形式が変更された
・が、User-AgentでMonazillaを名乗るもの
(したらば過去ログに対応していたと思われる専ブラ)
からのリクエストには影響が出ないよう、元の形式のhtmlを返すようにされた
ということではないかと思います。
あと現行ログについてですが、htmltodatのプレビュー欄には
<タイトル無し>と出てしまうのですが、実際にはdat上には
スレタイはちゃんと出力されてるので、お使いの専ブラ
(何をお使いなのか参考に教えていただけるとありがたいです)
に持っていけばスレタイは認識してくれると思いますよ。
<タイトル無し>と出てしまうのは、通常のhtmltodat変換とちょっと違う
イレギュラーな手法を使ってるせいで、プレビュー欄のタイトルをうまく
取得できていないだけです。
「それ不具合ちゃうん?」と言われるかもしれないですがご容赦ください^^;
1101
:
1094
:2024/03/01(金) 18:28:19
度々の対応ありがとうございます
助言通りに「User-Agent: Monazilla/1.00」を設定した所
無事にしたらばの過去ログのdat化に成功しました
https://i.imgur.com/yiK9My1.jpeg
本当にありがとうございます!
現行ログのタイトルもしっかり出力されていました
(dat化した後読み込んでちゃんと確認しておくべきでした申し訳ない)
使用していたのは「jane style」でした(dat出力機能が標準で付いていた為)
現在は「Xeno」を使おうと思って色々設定を弄ってる所です
本当にありがとうございました
私事ですが
現状5ch(2ch)界隈でゴタゴタしてて過去ログも見れない状態が続いてるので
この手の知識が無いなりにスレのdat化やサルベージを何とか進めている最中です
現在はonen2chのdat化を試みています
openは対応しているブラウザが多いので読み込めたりしますが
datが消滅しているスレ
https://wktk.open2ch.net/test/read.cgi/aimasu/1477275318/
https://wktk.open2ch.net/aimasu/dat/1477275318.dat
等は専ブラでは読み込めない為色々試している最中です
では長々と失礼いたしました
1102
:
◆/vmukiyuzw
:2024/03/05(火) 23:43:26
>>1094
さんの丁寧なご報告のおかげ🙂でひと段落付いたようなので
現状を一旦prmの形にまとめておきます。これに対するレスは不要です。
まずしたらば過去ログ。
コメント:
したらばの過去ログを変換する
以前は正規表現=jbbs過去ログだけで行けたが
いつからかhtmlの形式が変わり、旧形式のhtmlを得るには
UAを指定する必要が出てきたようだ
HTTPヘッダの追加:
User-Agent: Monazilla/1.00
正規表現=jbbs過去ログ
1103
:
◆/vmukiyuzw
:2024/03/05(火) 23:46:54
次にしたらば現行ログ。
前に書いたものに若干のバグがあり少し修正してます。
まあ実験的なものであまり使われることはなさそうですが。
コメント:
したらばの現行ログをrawmode.cgi経由で変換する
・前処理
したらばのrawmode.cgiの出力は
レス番<>名前<>メール欄<>投稿日時(ID含まない)<>レス内容<>スレッドタイトル<>ID
なのでID($7)を投稿日時($4)の後ろに移す
・正規表現
各欄にそのまま当てているだけだが処理中に$1でレス番飛びのチェックをしているので必要
URLの変換:
s`read\.cgi`rawmode\.cgi`
前処理:
s`(\d+)<>(.*?)<>(.*?)<>(.*?)<>(.*?)<>(.*?)<>(.*?)\\?\n`$1<>$2<>$3<>$4 ID:$7<>$5<>$6 <>\n`img
# IDがない板の場合削除
s` ID:<>`<>`img
透明あぼーんを補う:
true
変換結果式:
$2<>$3<>$4<>$5<>$6
正規表現:
m`(\d+)<>(.*?)<>(.*?)<>(.*?)<>(.*?)<>(.*?)<>(.*?)`ig
1104
:
名無しさん
:2024/04/02(火) 11:34:48
>>1080
から5chの仕様が変更されたようなので正規表現をお願いできないでしょうか?
#メールが空欄になってしまい、すべてのレスが”壊れていますになり、日付が取得されません、
#03/31に変更?k"
1105
:
◆/vmukiyuzw
:2024/04/03(水) 03:02:34
>>1104
さん
修正箇所はすぐわかったのですが別件で手こずってました…
その件はまだ片付いてないのですがとりあえず。
HTMLソース見てみると、各レスのメール欄と投稿日欄の間に
「垢版」という謎のリンク(5ch運営が推してるUPLIFT?に
関連してるぽい)が追加されたので、以前の正規表現では
マッチしなくなってます。それ以外に変更はなさそう。
追加部分にぴったりマッチさせる正規表現書いても良かった
のですがまだ変更ありそうな気がしたので
</summary><span\ class="date">の前に.*?(何文字でもいい
最短マッチ)を追加するだけにしました。
コメント:
# 5chのread.cgi 08系からの出力を変換-2024/04/03
# 5chのcgi仕様変更(07.4.7 2024/03/31)に対応
URLの変換:
# htmltodat 0.11.10以降を使っていればこれはなくてもよい
s#https?://(.+?)/test/read\.cgi/(.+?)/(\d+)/?.*#http://$1/test/read.cgi/$2/$3/#
前処理:
# メール欄にURLが貼られた時のとりあえず対応
s#(<a href="mailto:)([^<>]*?)(?:<a href[^>]*?>)?([^<]*?)(?:</a>)?([^>]*?)(">)#$1$2$3$4$5#ig
# ガラガラ削除
s#^(.|\n)*?<div id="thread"##igk
アンカー削除:
false
透明あぼーんを補う:
true
後処理:
# BE周りの処置
s#</span><span class="be .*?><a href=".*?//be\.(?:[25]ch\.net|bbspink\.com)/user/(\d+).*?>\?(.*?)</a># BE:$1-$2#ig
# アンカータグ削除(レスアンカーに対するタグは削除しない)
s#<a(?: class="image")? href="http.*?>(.*?)</a>#$1#igk
# お絵かき機能等のimgタグを除去
s#<img src=".*?(//.*?)">#sssp:$1#igk
# IDの前に付くようになった不要なタグを除去
s#</span><span class="uid"># #igk
# 07.2.1で追加された不要な要素を除去
s#<><span class="AA">(.*?)</span><>#<>$1<>#igk
s#(target="_blank").*?>#$1>#igk
正規表現:
m`
(?# レス番号)<span\ class="postid">([0-9]+)</span>
(?# 名前)<span\ class="postusername"><b>
(?# メール欄)(?:<a\ href="mailto:(.*?)">)?(.*?)(?:</a>)?</b></span>
(?# 投稿日・ID).*?</summary><span\ class="date">(.*?)</span>
(?# レス内容)</details><section\ class="post-content">(.*?)</section>
`mix
1106
:
名無しさん
:2024/04/03(水) 20:12:10
>>1104
さん、ありがとうございました。
ただし、以下が失敗します
http://kes.5ch.net/test/read.cgi/operatex/1690139851/5.75.101
新着レスの表示
名前:
E-mail
(省略可)
:
※書き込む際の注意事項は
こちら
※画像アップローダーは
こちら
(画像を表示できるのは「画像リンクのサムネイル表示」がオンの掲示板に限ります)
スマートフォン版
掲示板管理者へ連絡
無料レンタル掲示板