ESET Cyber Securityのログ肥大化問題

macOS SequoiaでEset Cyber Securityを使っている。Macのディスクの空きを確認すると、「その他」で殆どが埋まっていることがあるが、これのログファイルが原因。

/System/Volumes/Data/Library/Application Support/ESET/Security/log/network.dat

ls -l で確認して容量がでかいのを確認する。偶に削除しないと、1TB近くなっていてびっくりする。特に重要な情報も書いてなさそうなので、削除してしまう。rwともroot権限で。(自己責任でやってください)

ログの上限をどうやって設定すれば良いのか未だにわからん。ググってもようわからん。

ESETに関しては、macOSのアプデに全くついて行けていないし、ネットワークに繋がることもあったし(今もなのか?)、次回の更新で乗り換える気がしているが悩み中。

昔、高校生の頃、東北大の先輩にお勧めされた記憶のあるアプリケーションだけに思い入れはある。

VL講習会、実習へのご参加の御礼

こんにちは。

3月3日と4日に開催されたVL講習会にて実習を担当いたしました。3つの講義があるなか、わざわざ私が担当する講義を選んでくださったことを、大変嬉しく思います。少しでも皆さんの研究生活に刺激を与えることができたなら、ポスドク冥利に尽きます。

今回の実習は「宇宙から色んな雲を見つけよう 〜衛星画像×機械学習入門〜」とタイトルをつけまして、ひまわり8号・9号の巨大なデータから、K-meansを用いて雲型分類を行うというものでした。人生で初めて実習を計画し、教科書の作成から実習の流れまでを考えました。内容がどうかはアンケートを見て考え直すとして、かなり参加者も多く、嬉しかったです。改めまして、参加してくださった皆さま、TAの皆さん、スタッフの皆さんに感謝を申し上げます。以下で私からのオフィシャルの報告はさせていただいております。

上の記事でも紹介していますが、実習の内容を以下からDLいただけます。

https://drive.google.com/drive/folders/1V957bKnnGGNtQYFr4DpnmmBIl9JzH-4g

実習を経てバグの修正や誤植の修正などを行いました。バグの内容は致命的ではないのですが、最終的にできあがるクラスターマップのカラーバーに関する改善を行っています。本実習最後のカラーマップは、陸域などにクラスターされたものを取り除いた結果が表示されていますが、カラーバーにそれが反映されていませんでした。

また、実習中に需要のあった、Zarrファイル変換の方法なども追記しました。

オフィシャルな報告は上の記事に任せるとして、ここでは実習を作るにあたり困った点や工夫した点などを思い付く限り書いておきます。

続きを読む: VL講習会、実習へのご参加の御礼

実習レベルについて

結構、最後まで悩みました。考えている内に、入門という言葉を忘れて凄くヘビーな内容にしました。PIや同僚に指摘されて気が付きましたが、多時刻のデータの使用や計算の最適化など、恐らく初学の人が求めていない内容に拘泥するようになっていたので、実習内容をいったん真っ新にして、シンプルな問題をシンプルに解くように工夫しました。また、1日目の実習を受けた方は感じたと思いますが、かなりスローペースで進みました。これは2日目からは改善したのですが、ある程度のペースをキープしながらTAをもっと頼るべきでした。置いて行かれる人が居ないように、最後まで悩んだのですが、先に進みたい人も居る中で、最後まで悩んでいました。

入門という事で、Xarrayを知ってもらうこと、機械学習の手法の初歩の初歩を知ってもらうことを意識しました。K-meansからスタートすれば、いずれ拡散モデルなどにもたどり着けるので、K-meansを採用しました。これなら実装も解説も簡単ですから、入門したての方にも楽しんでいただけるかなと思った次第です。また、可視化の派手さにもこだわっており、関数を予め作成しておくことで、同様のタスクなら誰でも映える図が作れるようになっています。利用だけできればいい人には十分で、興味のある人には関数の中身を読んでいただけるようにしたつもりです。可視化って、私は個人的に楽しいんですが、皆さんはいかがだったでしょうか。

テーマについて

実習のレベルとも関わるテーマの設定には、非常に苦労をしました。これに殆どの時間を費やしたと言っても過言ではありません。

  • 機械学習が使えて
  • 弊研究所CEReSのデータが活かせて
  • 初心者の方が取り組めて
  • 楽しさを知っていただける

を中心に考えました。小さいデータセットで取り組んでもらい、ラボに持ち帰ってもらい、大きな計算機で応用してもらえることも意識しました。Google Colab上で回りきるというのも重要な要素で、今回はギリギリ回しきることができるテーマにしたつもりです。

雲型のクラスタリングの他にも様々な案があったのですが、ビジュアルに訴えられ、機械学習入門としても最適なK-meansが使用できることから、このテーマに至りました。

内容の粒度について

何処までをテキストに書くべきか悩みました。例えば、Colabの使い方を何処までしっかり書くかや、直感でわかりそうな箇所を何処まで文書化するかは悩みました。結果として、丁寧よりには書いたのですが、そうするとページ数がドンドン増えてしまいますね。本の目的を考えながら作らないといけないと、当たり前ですが実感しました。

組版にTypstを、表紙の作成にはIllustratorを

今回は執筆から組版、印刷、搬入まで全部自分でやりました。(コミケを思い出しますねぇ。)組版にはtypstを使用しました。まだまだ新興の組版ですが、非常に軽量で使いやすかったです。書いているのがリアルタイムにプレビューできるのが本当に強い。ただし、引用文献の作成や、図表の取り扱いなど、まだまだかゆいところに手が届かないこともあり、苦労しました。お世話になった技術書典の書籍2つはこちらこちらです。ありがとうございました。

また、表紙も自分でデザインしました。研究室のデザイナーの方や学生さんにアドバイスをもらいながら配置などを工夫しました。メインの画像にはクラスタリングの結果を立体的に載せ、それを囲うように、文字を枠を付けて配置しました。

反省点

  • 実習の速度
  • 内容の粒度感が統一されていない
  • どうしてもバグや誤植が最後まで残った
  • TAさんが手持ち無沙汰なときがあった

とりあえず、今気付くかぎりで書きました。

総じて、非常に良い経験ができました。自分自身も2016年学生の頃、千葉大にお邪魔してVL講習会を受けてきましたが、今その場で自分が講義できたことが非常に感慨深かったです。実習の進行速度など反省点もありますが、今自分が出来る限りの事はできたと思いますし、楽しかったと言ってくださった方がいらっしゃるのも非常に嬉しかったです。

研究者は研究がメインだと思うのですが、こうやって皆さんと何かしらの交流や知識の共有ができることも幸せなことだと思います。また皆さんとご縁がありましたら、嬉しいですね。

ありがとうございました。

PS: このブログのコメント欄などでも、ご感想などありましたらお書きください。

Typstで転置など

こんばんよ。

以前、Typstで転置を表現する豪快な力業を記載しましたが、キチンとしたやり方がありました。

これには、Physica(https://github.com/Leedehai/typst-physics)という自然科学に特化したパッケージをインポートして利用します。

#import "@preview/physica:0.9.3": *

コロン以下アスタリスクは、パッケージ内のものを全て利用するという意味です。Pythonと同じですね。

インポートしたあと、転置したい場所で以下の様に書くと、転置の記号が書けます。(※他に太字vをvvなどで定義しています)

$ qtheta(vv, hh) prop exp(-vv^TT W hh - bb^TT hh - cc^TT vv) $ <def_rbm>

とても綺麗。

このマニュアルの3ページ、9ページに記載があります。私としては明示的にTTと書くのがオススメです。

https://github.com/Leedehai/typst-physics/blob/v0.9.3/physica-manual.pdf

ではでは〜


(今日のつぶやき) 前処理は何時でもキツい。本当に今でも苦手。我が国も独自フォーマットだらけでしんどい。

AlmaLinuxでfirewalldが起動出来ない

$ sudo systemctl restart firewalld.service
Job for firewalld.service failed because a timeout was exceeded.
See "systemctl status firewalld.service" and "journalctl -xeu firewalld.service" for details.

さくらVPSにて遭遇。コマンドを入力すると端末がずっと反応しなく、数分後にエラーを吐き出した。タイムアウト。

プロセスを見てみると 

$ ps -ae | grep firewalld
 493460 ?        00:00:00 firewalld

というわけで、一旦無理矢理プロセスをkillして起動し直すことに。

$ sudo pkill firewalld

この処理が正しいかどうかは分からないです。パワー忍者です。

これで以下のコマンドから再度スタートしてあげれば良い。

$ sudo systemctl start firewalld.service

祖母について考える

祖母が先日他界した。昨日はお通夜、今日は葬式・法要。案外実感は湧かないまま来たし、別にこれと言って悲しいという感覚も持たなかったし、こう言う時は持たないようにしている。ただ、やはり儀式が始まると色々思うことはあるし、たまにしんどいなーとボヤボヤ思う。そう思ってもしかたがないし今生きている人間の生活に支障があるのも困るので、そう思わないように訓練されてはいると思っている。

さて、明日は別れの言葉を述べることになっているが原稿は書かなくていいかなと思っている。面倒くさいし今更水くさいのはボクが最も苦手としているところである。せっかくなのでここで祖母について振り返り、明日の時には簡単に2,3分くらい話せるようにしておきたい。故人としても、こんなへんぴなブログで語れるとは思ってもみなかったであろう。


そもそも、私はおばあちゃん子なのである。両親が共稼ぎだったのもあって、保育所の迎えから中学の帰りまではずっと祖母の家だった。長期休暇は朝から夕刻までを祖父母宅で過ごし、昼飯は必ずご馳走になったし、大学生になってからも帰省した際は夜ご飯にお邪魔してご馳走になったりもした。祖母の料理はどれも美味しかった。個人的にはうどんとかチャーハンとかカレーが印象に残っている。なんでか分からんが、味が濃いわけでもないのに子供ながら美味しかった記憶がある。お通夜で聞いたが、別に料理教委室とかで習ったわけでは無く、自分で色々研究してたんじゃ無いかとのこと。

ライスカレー。今となっては食器も懐かしい。

祖母と言えば数学という言葉なしでは語れない。祖母は数学がとても好きで、暇があれば大学入試の問題を解いたり高校数学の問題集を解いたりしていたなかなかの変わり種である。テーブルの上には必ず問題集と雑紙が置いてあって、家事が終わるって休みの時間になるとおもむろに数学を始める。毎年の和算のイベントへの投稿も欠かさず、高みを目指していた。昔の師範学校では、物化数学みんな首席である。本人に曰く、他にも強い女性がいたらしいが、まさに祖母の無双状態だったらしい。ずっとそういうお話しは聞いていたけど、昨年施設に入っていた祖母と話していると、何でもその賞状などは未だにタンスの奥に取ってあるらしい。「おじーちゃんとかは働いてからも賞が貰えるけど、私はあれだけだから」と弱々しくなってしまった声で語っていたのが今で強く印象に残っている。転勤族だった家庭だったが残すほどには、大事だったのだろう。時代が時代だっただけに、働きたかったのかなとか、寂しい気持ちになった。色々大変だった中頑張ってきたんやろうね。

私は残念ながら数学は苦手だし、困ったほどにアホチンである。しかし、小学校、中学校から帰ると勉強の時間に数学を教えてくれたのは祖母だったし、今研究をやってなんだかんだ勉強を未だにしているのは祖母の影響もあるんだろうなぁとも思っている。教えてくれる時の祖母はとてもいきいきしていたと今更気が付く。本当に数学が好きだったんだろう。


残念ながら眠くなってきたし本日は朝から色々忙しいから、そろそろ書き進めるか悩んでいる。

小さい頃から面倒を見てもらったから、色々怒られた気もするし、色々褒められた気もする。女性は中、男性は外の時代を生きてきた祖母にとって、私のような子孫にはとても期待してくれてたんだろうなと思っている。たまに自分の子供の話を嬉々として語ってくれたり、過去のそう言う思い出を語ってくれたり。それが一つ、祖母の社会進出にもなっていたのだろうなと思っている。家庭での貢献が社会進出で無いとは思っていないが、当時を考えるにそんな感じがしている。

私自身ももっと生前に色々と結果を持って帰りたかった。ちょっと自分のことを盛って報告したりした気もするが、祖母も嬉しそうに聞いてくれていたから、それはそれで嬉しい。


小さい頃、夏休みとかはたまに買い物に付き合ったりしていた。私の住んでいたのは八木山だったから、山だらけの道は子供にとってハードだった。祖母はそれを買い物カートを持ちながらぐんぐん進むものだから、私はいつも追いつくのが大変だった。はやいね〜なんて話してた記憶がある。なんでだかは忘れたが、大学生になってから同じことをしたことがある。もうその時には私が歩くのが速くなったのか祖母が遅くなったのかわからんが、だいぶ時の流れを感じたし、ちょっと寂しくも感じた。


自分で考えて動く人だったと思う。そして、大の心配性なのだけどチャレンジングなことができる人だったと思う。パソコンもやったしケータイもやったし、畑もやったし買い物もやったし、家事もやったしその時には必ず色々な洞察があったと思う。何をどうしたら効率が良いとか、何をどうしたら上手く行くとか、そう言う話は良く聞いた気もしている。一方で心配性で、細かいところまで気が回るタイプだったとも思う。


孫は大変良くしてもらったし、恐らく子供以下は皆同じ。私らの活躍を本当に自分事のように嬉しく聞いてくれて、誇らしく話してくれた。さっきも書いたけど、恐らく我々の活躍が、家の中にいる女性には本当に大事だったんだと思う。ちょっとでもばーちゃん孝行できているといいのだが。わからんね。家を固く守って子供達を輩出する、The 昭和の女性。激動の時代を生きてきた、強く逞しい女性だったんだと、大人になってから思う。

祖母は死んでしまったわけだけど、別に祖母の意思が消えたわけではないし、それはボクらにも脈々と受け継がれている。人間というのは面白く、近くにいた人の影響を受け継いでいくんだろうなとは思っている。勉強をしたり、学生を教えたり、しゃべり方の節々をとっても、あ、祖母と似ているなと思うことがたまにある。だから、別に祖母が死のうがなんだろうが、別にこれからもそう言うものは子へ孫へ受け継がれていくんだろうと思っている。


ここ数年で祖母に言われた面白い言葉を幾つか。

「別に夫婦で仲が良いわけではないのよ。」

草。奥さんの「どうしたらそんなに結婚生活が長続きするんですか?夫婦円満のコツは?」の質問についての回答。本当は仲が良いんだろうけど、あの時代はお互いにしっかりと役割も決まってただろうから、譲ることは多かったんだろうな。

「仕事がもらえるだけいいじゃない」

死んじゃう2週間か3週間前に、お見舞いに行ったときに言われた言葉。ちなみに、祖母はこの言葉を元気なときも言っていたから、恐らく祖母の根幹の一つなんだろうね。「忙しいんだ、よくわからん仕事も沢山あるしなぁ」って、声も出なくなった祖母に言ったんだよね。その時カスカスの声だったけど、いつもと同じことを言っていたよ。確かにそうだね。仕事を貰えているウチが花なのかもしれないわ。これ、どうなんだろう。やっぱり上に行くときにはある一定の我慢が必要だし、社会で生きていくならそう言うタフな生き方も必要なんだろうね。


相も変わらぬまとまりのない文章で、深みもない文章でダラダラと書いてしまった。ちょっと寝て、法事に臨むことにする。

ではでは〜

第26回CEReS環境リモートセンシングシンポジウムに参加しました

弊研究所の主催するシンポジウムに参加してきました.私はここに所属する前に,共同利用申請をしていたので,その発表も兼ねての参加です.

一緒に研究した方もいらして,久々にお話しできて嬉しかったし勉強にもなりました.今後の研究の計画も何となく立てられたので良かったです.

シンポジウムの方は,座長の方もさせていただきました.個人的には立正大の藤田先生の航空気象のお話しが興味深かったです.

あと,地震の前兆?として発生する波の話も面白かった(難しくて専門的に書けません)

観測屋さんから利用者まで,世の中広いなぁ,今後何をしたら面白いかなぁと将来へ思いを馳せました.

懇親会でも,諸先輩方の多様な人生観,研究観をお伺いでき,とても刺激になりました.

またこれからも頑張ろう.

Typstでよく使う変数を登録しておく

2024/06/23追記:転置に関する記載には改善の必要があります。最新の記事をお読みください。


最近、Typstにハマっている。TeXよりも簡単に導入できて(MacならHomebrewでも入る)PDFに変換するのも早いので、論文を書きたいとかそう言うどっかりしたタスク以外も楽しく使える印象である。

ただ、現在、転置行列を書くことが出来ず(^Tで我慢すれば良いのかもしれない)ちょっと困っていた。

そこで、以下の形式でよく使う変数や機能を登録しておくようにしている。

#let trp(matrix) = $matrix^⊤$
#let xk = $bold(x)(k)$
#let ct = $trp(bold(c))$

一番目の例は、転置行列をtrp()で書くことを可能にしたもの。二番目の例は太字(ベクトル)のxに下付文字kを付けたものをxkで書けるようにしたものである。同様に、三番目のctは以下略。

それぞれ、以下の様に表示される。

$ y(k)= ct xk + w(k) $ <defy>

便利。

Suiko registration (水工学講演会参加申し込み英語ver.)

There is no English version of Suiko-registration.

Here is the translation version of 2023 Suiko-registration for your information.

Process 1

Access to https://confit.atlas.jp/guide/event/jscehyd2023/static/registration2023

Click upper one.

If you want to “Special Symposium” or “Ager Symposium”, you need to register from two buttons below.

Process 2

Fill in the blanks.

Process 3

Submit the registaration.

After the registration, please make sure the registration e-mail by the Suiko in your e-mail box.

Congratulations.🎉

PS: 水工は今年AGUと被ってますね。。。私は水工にいきますがAGUにも行きたかったです。。。。

でも、水工は楽しみましょう!!今年も水工学x機械学習座談会を企画します!!

NFSにあるHDF5を読み込めない問題

NetCDFでは試してないが、恐らく同様の現象が発生する。

問題

Pythonのhdf5pyなどでhdf5を読もうとすると、読み込み中のまま固まる。データはNFSでマウントしたサーバー上に存在している。環境はサーバーもクライアントもAlmalinux(8と9)。恐らくCentOSやUbuntuでも発生するはず。

解決法

以下のように環境変数を書いておく。.bashrcや.zshrcに書いても良いと思う。PBSやSlurmならバッチ投げるときに定義しないといけない。

export HDF5_USE_FILE_LOCKING=FALSE

以上です。

参考

https://bugs.launchpad.net/ubuntu/+source/nfs-utils/+bug/1903974