Ruby は Linux か Mac で使うのがいいと思います。Windows ではかなりキビシイです。自分のメイン環境は Linux Mint 19.1, Ruby 2.6.0 です。
Ruby のバージョン管理は rbenv、Gem の管理は Bundler を使うのが便利です。rbenv は複数のバージョンの Ruby を簡単に切り替えて使うことができます。
Bundler は Gem の依存関係をうまく考えて Gem を簡単にインストールしてくれます。自分で Gem を作るのも簡単です。
下の「MyGtk」を Gem 'oekaki' として登録しました。GTK2 を使った簡単な描画ライブラリです。Ruby で画面に線や円を描いたり、タートルグラフィックスを使ったりするものです。
手製かんたんお絵かきライブラリです。Gem 'gtk2' が必要です。
注記:のちにこれを RubyGem 'oekaki' として公開しました。これに関するブログ記事はこちら。
野良Gem に関しては、
などを参照。
C拡張に関しては、ブログのこの記事が初心者向き。
C拡張でモンキーパッチ(オープンクラス)を使うにはここ。