Parquet schema

Schema for data available in parquet ingestion

📘

Data is piped in this schema


Details below:

% for x in data/*.parquet; do echo $x; parquet schema $x | jq; done

data/farcaster-casts-1713814200-1713814500.parquet
{
  "type": "record",
  "name": "schema",
  "fields": [
    {
      "name": "created_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "updated_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "deleted_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "timestamp",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "fid",
      "type": [
        "null",
        "long"
      ],
      "default": null
    },
    {
      "name": "hash",
      "type": [
        "null",
        "bytes"
      ],
      "default": null
    },
    {
      "name": "parent_hash",
      "type": [
        "null",
        "bytes"
      ],
      "default": null
    },
    {
      "name": "parent_fid",
      "type": [
        "null",
        "long"
      ],
      "default": null
    },
    {
      "name": "parent_url",
      "type": [
        "null",
        "string"
      ],
      "default": null
    },
    {
      "name": "text",
      "type": [
        "null",
        "string"
      ],
      "default": null
    },
    {
      "name": "embeds",
      "type": [
        "null",
        "string"
      ],
      "default": null
    },
    {
      "name": "mentions",
      "type": [
        "null",
        "string"
      ],
      "default": null
    },
    {
      "name": "mentions_positions",
      "type": [
        "null",
        "string"
      ],
      "default": null
    },
    {
      "name": "root_parent_hash",
      "type": [
        "null",
        "bytes"
      ],
      "default": null
    },
    {
      "name": "root_parent_url",
      "type": [
        "null",
        "string"
      ],
      "default": null
    },
    {
      "name": "id",
      "type": [
        "null",
        "long"
      ],
      "default": null
    }
  ]
}

data/farcaster-fids-1713814200-1713814500.parquet
{
  "type": "record",
  "name": "schema",
  "fields": [
    {
      "name": "created_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "updated_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "custody_address",
      "type": [
        "null",
        "bytes"
      ],
      "default": null
    },
    {
      "name": "fid",
      "type": [
        "null",
        "long"
      ],
      "default": null
    }
  ]
}

data/farcaster-fnames-1713814200-1713814500.parquet
{
  "type": "record",
  "name": "schema",
  "fields": [
    {
      "name": "created_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "updated_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "custody_address",
      "type": [
        "null",
        "bytes"
      ],
      "default": null
    },
    {
      "name": "expires_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "fid",
      "type": [
        "null",
        "long"
      ],
      "default": null
    },
    {
      "name": "deleted_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "fname",
      "type": [
        "null",
        "string"
      ],
      "default": null
    }
  ]
}

data/farcaster-links-1713814200-1713814500.parquet
{
  "type": "record",
  "name": "schema",
  "fields": [
    {
      "name": "fid",
      "type": [
        "null",
        "long"
      ],
      "default": null
    },
    {
      "name": "target_fid",
      "type": [
        "null",
        "long"
      ],
      "default": null
    },
    {
      "name": "hash",
      "type": [
        "null",
        "bytes"
      ],
      "default": null
    },
    {
      "name": "timestamp",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "created_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "updated_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "deleted_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "type",
      "type": [
        "null",
        "string"
      ],
      "default": null
    },
    {
      "name": "display_timestamp",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "id",
      "type": [
        "null",
        "long"
      ],
      "default": null
    }
  ]
}

data/farcaster-reactions-1713814200-1713814500.parquet
{
  "type": "record",
  "name": "schema",
  "fields": [
    {
      "name": "created_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "updated_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "deleted_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "timestamp",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "reaction_type",
      "type": [
        "null",
        "long"
      ],
      "default": null
    },
    {
      "name": "fid",
      "type": [
        "null",
        "long"
      ],
      "default": null
    },
    {
      "name": "hash",
      "type": [
        "null",
        "bytes"
      ],
      "default": null
    },
    {
      "name": "target_hash",
      "type": [
        "null",
        "bytes"
      ],
      "default": null
    },
    {
      "name": "target_fid",
      "type": [
        "null",
        "long"
      ],
      "default": null
    },
    {
      "name": "target_url",
      "type": [
        "null",
        "string"
      ],
      "default": null
    },
    {
      "name": "id",
      "type": [
        "null",
        "long"
      ],
      "default": null
    }
  ]
}

data/farcaster-signers-1713814200-1713814500.parquet
{
  "type": "record",
  "name": "schema",
  "fields": [
    {
      "name": "created_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "updated_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "deleted_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "timestamp",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "fid",
      "type": [
        "null",
        "long"
      ],
      "default": null
    },
    {
      "name": "signer",
      "type": [
        "null",
        "bytes"
      ],
      "default": null
    },
    {
      "name": "name",
      "type": [
        "null",
        "string"
      ],
      "default": null
    },
    {
      "name": "app_fid",
      "type": [
        "null",
        "long"
      ],
      "default": null
    },
    {
      "name": "id",
      "type": [
        "null",
        "long"
      ],
      "default": null
    }
  ]
}

data/farcaster-storage-1713814200-1713814500.parquet
{
  "type": "record",
  "name": "schema",
  "fields": [
    {
      "name": "created_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "updated_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "deleted_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "timestamp",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "fid",
      "type": [
        "null",
        "long"
      ],
      "default": null
    },
    {
      "name": "units",
      "type": [
        "null",
        "long"
      ],
      "default": null
    },
    {
      "name": "expiry",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "id",
      "type": [
        "null",
        "long"
      ],
      "default": null
    }
  ]
}

data/farcaster-user_data-1713814200-1713814500.parquet
{
  "type": "record",
  "name": "schema",
  "fields": [
    {
      "name": "created_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "updated_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "deleted_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "timestamp",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "fid",
      "type": [
        "null",
        "long"
      ],
      "default": null
    },
    {
      "name": "hash",
      "type": [
        "null",
        "bytes"
      ],
      "default": null
    },
    {
      "name": "type",
      "type": [
        "null",
        "long"
      ],
      "default": null
    },
    {
      "name": "value",
      "type": [
        "null",
        "string"
      ],
      "default": null
    },
    {
      "name": "id",
      "type": [
        "null",
        "long"
      ],
      "default": null
    }
  ]
}
data/farcaster-verifications-1713814200-1713814500.parquet
{
  "type": "record",
  "name": "schema",
  "fields": [
    {
      "name": "created_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "updated_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "deleted_at",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "timestamp",
      "type": [
        "null",
        {
          "type": "long",
          "logicalType": "timestamp-micros"
        }
      ],
      "default": null
    },
    {
      "name": "fid",
      "type": [
        "null",
        "long"
      ],
      "default": null
    },
    {
      "name": "hash",
      "type": [
        "null",
        "bytes"
      ],
      "default": null
    },
    {
      "name": "claim",
      "type": [
        "null",
        "string"
      ],
      "default": null
    },
    {
      "name": "id",
      "type": [
        "null",
        "long"
      ],
      "default": null
    }
  ]
}
data/farcaster-profile_with_addresses-1713975600-1713975900.parquet
{
  "type" : "record",
  "name" : "schema",
  "fields" : [ {
    "name" : "fname",
    "type" : [ "null", "string" ],
    "default" : null
  }, {
    "name" : "display_name",
    "type" : [ "null", "string" ],
    "default" : null
  }, {
    "name" : "avatar_url",
    "type" : [ "null", "string" ],
    "default" : null
  }, {
    "name" : "bio",
    "type" : [ "null", "string" ],
    "default" : null
  }, {
    "name" : "verified_addresses",
    "type" : [ "null", "string" ],
    "default" : null
  }, {
    "name" : "updated_at",
    "type" : [ "null", {
      "type" : "long",
      "logicalType" : "timestamp-micros"
    } ],
    "default" : null
  }, {
    "name" : "fid",
    "type" : [ "null", "long" ],
    "default" : null
  } ]
}