跳转到主要内容

MinIO

MinIO 是一个高性能的对象存储服务,完全兼容 S3 协议。

如何获取鉴权参数

  1. 登录 MinIO 控制台
  2. 在左边栏选择 Bucket 选项,点击右上角的 Create Bucket 按钮创建存储桶 创建Bucket
  3. 在左边栏选择 Policies 选项,创建权限策略 创建权限策略 策略详情如下:
     {
         "Version": "2012-10-17",
         "Statement": [
             {
                 "Effect": "Allow",
                 "Action": [
                     "s3:ListBucket",
                     "s3:GetObject"
                 ],
                 "Resource": [
                     "arn:aws:s3:::*"
                 ]
             }
         ]
     }
    
  4. 获取访问密钥:
    • 在左边栏选择 Identity - Users 选项,创建子用户 创建用户
    • 在用户详情中的Policies选项卡中为用户授予上面新建的策略 授予权限
    • 为用户创建 AccessKey,获取 AccessKey IDAccessKey Secret 创建AccessKey
  5. 获取 MinIO 端点: 请自行获取MinIO服务对应端点

配置示例

source = S3Source(
    endpoint='https://your-minio-endpoint', # 自行设置服务端点
    access_key='your-access-key-id',
    secret_key='your-secret-access-key',
    bucket='your-bucket-name',
    prefix='',
    region='us-east-1' # 固定此值即可
)

使用示例

from xparse_client import S3Source, Pipeline

source = S3Source(
    endpoint='https://your-minio-endpoint', # 自行设置服务端点
    access_key='your-access-key-id',
    secret_key='your-secret-access-key',
    bucket='your-bucket-name',
    prefix='',
    region='us-east-1'
)

# ... 其他配置

pipeline = Pipeline(
    source=source,
    # ...其他配置
)
pipeline.run()