yr.InvokeOptions

Contents

yr.InvokeOptions#

class yr.InvokeOptions(cpu: int = 500, memory: int = 500, concurrency: int = 1, custom_resources: ~typing.Dict[str, float] = <factory>, custom_extensions: ~typing.Dict[str, str] = <factory>, pod_labels: ~typing.Dict[str, str] = <factory>, labels: ~typing.List[str] = <factory>, max_invoke_latency: int = 5000, min_instances: int = 0, max_instances: int = 0, recover_retry_times: int = 0, need_order: bool = False, name: str = '', namespace: str = '', schedule_affinities: ~typing.List[~yr.affinity.Affinity] = <factory>, resource_group_options: ~yr.config.ResourceGroupOptions = <factory>, function_group_options: ~yr.config.FunctionGroupOptions = <factory>, env_vars: ~typing.Dict[str, str] = <factory>, retry_times: int = 0, trace_id: str = '', alias_params: ~typing.Dict[str, str] = <factory>, runtime_env: ~typing.Dict = <factory>)#

基类:object

用于设置调用选项。

样例:

import yr
import time
yr.init()
opt = yr.InvokeOptions()
opt.pod_labels["k1"] = "v1"
@yr.invoke(invoke_options=opt)
def func():
    time.sleep(100)
ret = func.invoke()
yr.finalize()

属性

concurrency

实例并发度。

cpu

所需 CPU 的大小。

max_instances

指定无状态函数的最大实例数。

max_invoke_latency

指定期望的异构函数调用完成的时间。

memory

所需内存的大小。

min_instances

指定无状态函数的最小实例数。

name

用于指定实例的名称。

namespace

用于指定实例的命名空间。

need_order

是否启用顺序保持。

preferred_anti_other_labels

是否启用不可选资源的反亲和性。

preferred_priority

设置是否启用弱亲和优先级调度。

recover_retry_times

实例恢复次数(当实例异常退出时,实例将自动恢复到最新状态)。

required_priority

设置是否启用强亲和优先级调度。

retry_times

无状态函数的重试次数。

trace_id

为函数调用设置 traceId,用于链路追踪。

custom_resources

自定义资源目前支持“GPU/XX/YY”和“NPU/XX/YY”,其中 XX 是卡型号,如 Ascend910B4,YY 可以是 count、latency 或 stream。

custom_extensions

指定用户自定义配置,例如函数并发度。

pod_labels

Pod 标签仅在 Kubernetes 环境中使用。

labels

实例标签。

schedule_affinities

设置亲和条件列表。

resource_group_options

指定 ResourceGroup 选项,包括 resource_group_name 和 bundle_index。

function_group_options

函数组选项。

env_vars

实例启动时设置环境变量。

alias_params

在 FaaS 跨函数调用中,当通过指定的别名调用函数且该别名为规则别名时,此参数用于设置规则别名所依赖的 kv 参数。

runtime_env

使用 conda、pip、working_dir 和 env_vars 配置 actor/task 的运行时环境。

is_data_affinity

实例是否开启数据亲和。

方法

__init__

check_options_valid

检查选项是否有效。